El cíborg ha burlat els límits de la ciència-ficció per convertir-se en la nova definició de l’ésser humà: com a espècie, hem creat artificialment el món que habitem i, alhora, hem modificat la naturalesa per adaptar-la al nostre mode de vida. I, en aquest context, la tecnologia també pot servir a causes emancipadores. Aquesta idea teixeix els escrits reunits per Teresa López-Pellisa i Remedios Zafra a l’antologia Ciberfeminismo. De VNS Matrix a Laboria Cuboniks (Ediciones Holobionte), que recullen el pensament de més de vint creadores i pensadores ciberfeministes, o sigui, els feminismes orientats a la tecnologia. El mateix principi vertebra els relats de Las Otras: Antología de mujeres artificiales (Eolas Ediciones), editat per López-Pellisa i que aplega contes de vint-i-sis autores i autors catalans, espanyols i llatinoamericans sobre ginoides, nines o dones virtuals i biotecnològiques de silici, plàstic i dígits binaris. L’obra defuig els clixés i, aquest cop, molts autors s’atreveixen a anar més enllà de la concepció tradicional de la dona artificial com a fetitxe, prostituta o companya sentimental en el marc de les relacions heteronormatives i dibuixen la imatge de l’autòmat femení des de postures dissidents. 

Potser se’n parla poc, de ciberfeminisme, tot i que el feminisme i la seva relació amb la tecnologia és un tema d’absoluta actualitat?

L’etiqueta de ciberfeminisme ja no està d’actualitat, tot i que continua existint. De fet, moltes ciberfeministes han anat canviant de posicionaments, tal com es pot comprovar en el procés del llibre [Ciberfeminismo. De VNS Matrix a Laboria Cuboniks] que, primer cop, tradueix i reuneix textos clau del ciberfeminisme. El concepte de ciberfeminisme s’encunya als anys noranta. Neix sobretot en el context de l’art feminista i el Net.art, quan es reflexiona sobre la cibercultura en uns termes que avui ens resulten inversemblants i ingenus. Cal tenir en compte que als noranta no tothom tenia un ordinador personal. Tal com escriu Remedios Zafra al pròleg, el llibre també reivindica la necessitat de publicar aquests textos en la llengua cíborg, meridional i mestissa que és el castellà per evidenciar les relacions entre Espanya i Llatinoamèrica amb una cultura digital que semblava que pertanyia exclusivament al món anglosaxó, i recull des dels primers manifestos dels noranta fins al posthumanisme i el xenofeminisme, que és cap a allò al qual ha tendit el ciberfeminisme. El problema és que el ciberfeminisme dels noranta reclamava un espai per a la cultura digital que per a les dones no ha existit. Es pensava en una relació postgènere a l’espai virtual que finalment no ha sigut real perquè el patriarcat l’ha col·lonitzat. 

Com es podria caracteritzar el ciberfeminisme avui?

Trobem el ciberfeminisme en Las Otras o en pel·lícules com Her, Ex-Machina, Ghost in the Shell, o en sèries com Black Mirror; productes culturals que reflexionen sobre l’imaginari científic i tecnològic de la feminitat i la projecció d’aquest futur especulatiu a través de la ciència-ficció. Cada cop que tractem l’imaginari femení tecnològic parlem de ciberfeminisme. Els ciberfeminismes plantegen que allò personal és hiperpolític -i no només polític, com deien els feminismes de la segona onada- entenent la hiperpolítica com una ampliació d’allò polític a través de la seva extensió al món virtual. Totes les lluites feministes que es duen a terme a través de la xarxa tenen a veure amb el ciberfeminisme o allò que s’ha denominat tecnofeminisme. El llibre va de Venus Matrix, un grup d’artistes australianes sorgit als noranta, fins als textos xenofeministes del 2019. Algunes treballen des del ciberactivisme i les xarxes de dones del ciberespai, mentre altres treballen des de la idea de la representació de la dona en l’imaginari científic i tecnològic cultural i els estereotips que s’hi repeteixen i que reforcen la desigualtat de gènere.

Estem veient la quasi monopolització dels codis estètics per part de lògiques mercantilistes i algunes grans empreses, i, per tant, ni els videojocs, ni les xarxes socials, ni altres espais virtuals són, generalment, feministes avui en dia.

Els estereotips no només es perpetuen en la ficció: la ficció crea la realitat. Allò que consumim és allò que naturalitzem com a normatiu i com a real. Per això és important analitzar la representació femenina al cinema i la literatura del passat: per a entendre com s’ha construït una realitat que es continua perpetuant. El que passa és que interioritzem aquests rols i discursos en la mesura que els veiem. Al món virtual de Second Life, tots els avatars tenen uns cossos impressionants. Allà tothom pot tenir el físic que sempre ha volgut. Però el gust i l’estètica deriven de la cultura, i si continuem educant-nos en els mateixos models, res canviarà. Si no plantegem alternatives, no podem imaginar-nos altres possibilitats. I és en la imaginació poètica i l’espai simbòlic on es plantegen aquestes altres opcions. Per això la ciència-ficció és tan interessant: perquè ens pot mostrar altres societats viables. I perquè la ficció crea o reforça la realitat. Però, compte, que també pot ser conservadora.

Sovint les distopies ens transmeten recel cap a allò que en realitat és crític o vol qüestionar el present...

Sí, és un dels gèneres de moda del segle XXI. Trobem una gran quantitat de distopies al teatre, a la narrativa i al cinema. I habitualment són súper conservadores. Ens diuen que el futur és pitjor, que val més quedar-nos així i conformar-nos amb allò que tenim. A través de la por, se’ns condueix cap a la immobilitat. Però també hi ha distopies interessants, aquelles que ens inciten a canviar les causes del nostre malestar. És preferible sortir de l’habitual discurs distòpic per plantejar-nos alternatives socials, solidàries, de gènere, de sexualitat… I, això, avui, l’única narrativa que ho fa possible és la ciència-ficció.

Ha de ser aquesta una de les missions de la ciència-ficció? A Ciberfeminismo es planteja que l’art té més potència deconstructiva que la teoria perquè aquesta última està més afectada pels codis i estructures científic-tecnològiques.

Quasi totes les filòsofes i els filòsofs contemporanis utilitzen la ciència-ficció en els seus textos. Braidotti, Haraway, Zizek o Sloterdijk, que s’adonen que no es tracta d’un gènere marginal perquè planteja qüestions, metàfores i imaginacions de la poètica de la resistència amb un contingut social i polític molt interessant. A través de la ciència-ficció es pot plantejar un món fora del patriarcat i del gènere binari i normatiu. Unes altres regles són possibles en la ficció i en el ciberespai, que era allò que plantejaven algunes ciberfeministes dels noranta. Ara bé, cal després que puguem treure aquestes qüestions al món real, ja que al final la ficció és el reflex del món i viceversa.

La tecnologia diria que és ambivalent. Per una banda, ha esdevingut un lloc on ha quallat la societat patriarcal mentre, alhora, pot tenir un paper important per a les lluites feministes. Com podem utilitzar la tecnologia per aconseguir una justícia social i de gènere, segons els últims corrents ciberfeministes? 

La reproducció i la biotecnologia són temes que actualment treballen els col·lectius SubRosa o Laboria Cuboniks, i tenen molt a veure amb el posthumanisme tecnomaterialista (tot són paraulotes meravelloses!). En plena segona onada del feminisme, Shulamith Firestone escriu la Dialèctica del Sexe, on parla de l’alliberament del rol reproductiu de les dones a través dels anticonceptius. Aquest fet suposa una revolució perquè de sobte les dones guanyen la capacitat de decidir si volen reproduir-se o no. Més enllà dels anticonceptius, també es posa sobre la taula la possibilitat de l’ectogènesi, que és la gestació fora de l’úter. Hi ha una antologia de ciència-ficció escrita per dones espanyoles i llatinoamericanes, Proyectogénesis, on només hi apareixen relats que plantegen mons on això succeeix. I, en alguns casos, no són gens encoratjadors. És clar, el problema d’aquesta tecnologia -com el de qualsevol altra- és a quins interessos respon, qui hi accedirà o quin preu tindrà. Per això els ciberfeminismes han reclamat que aquestes eines siguin sense ànim de lucre. En el marc del capitalisme monopolista, els beneficis d’una tecnologia perverteixen el seu sentit. Què passaria si l’Estat necessita més soldats o pagadors d’impostos perquè mantinguin el sistema i la reproducció humana ja no depèn de la dona? A l’Estat li interessa tenir un control sobre els úters i els cossos femenins, i per això es legisla.

Tot això ja s’ho van plantejar les primeres ciberfeministes?

Quan Donna Haraway [considerada la primera ciberfeminista] escriu el Manifest Cíborg, l’humà entès com a cíborg, com un organisme biològic modificat per la tecnologia, esdevé un ésser queer. Tot i que el concepte queer no apareix fins més tard, Haraway l’utilitza més enllà del significat literal i el transforma en una metàfora del subjecte postmodern. Alhora, ens diu que els límits entre biologia i cultura o entre natural i artificial són borrosos. Ens diu que la biologia és un discurs científic que respon a uns certs interessos històrics de gènere, per exemple. Haraway obre un món per a l’ésser humà que interactua amb els entorns digitals i evidencia que les nostres identitats estan absolutament intervingudes per les noves tecnologies. D’alguna manera, tots som cíborgs, al marge de les pròtesis que cadascú duu al cos -vacunes, ulleres, etc. Els ciberfeminismes i el posthumanisme crític feminista sostenen que cal desplaçar l’humà com a mesura de totes les coses perquè aquesta idea és absolutament androcèntrica, antropocèntrica, patriarcal i racista, i no inclou les dones, ni els cossos amb disfuncionalitat, ni els d’altres colors de pell, ni els altres éssers vius amb els quals convivim… Aquest pensament té molt a veure amb la quarta onada feminista que vivim, on l’ecocrítica és fonamental. Cal veure com la tecnologia i la biotecnologia han vist beneficis en l’explotació de la terra i els cossos. Això preocupa molt des de l’ectogènesi, la clonació o la intervenció en la línia germinal, que consisteix a dissenyar els éssers que naixeran utilitzant la reproducció en els cossos femenins. En aquest sentit, es parla d’eugenèsia terapèutica. Però les tecnologies poden servir tant per al control com per a l’alliberament. Ara ens toca debatre quin ús donarem a la biotecnologia un cop descoberta la recepta de l’ADN que ens permet intervenir-lo i modificar-lo.

Cal veure com utilitzarem el mètode d’edició genètica CRISPR…

Exacte, l’edició de l’ADN suposa un canvi de paradigma. De fet, John Haldan, un biòleg de principis del segle XX -qui, per cert, coneixia Aldous Huxley, l’autor de la novel·la distòpica genètica Un món feliç (1932)- va treballar en les possibilitats de la biologia reproductiva durant els anys vint i somiava amb la possibilitat que, en un futur, l’espècie es reproduiria per ectogènesi. Sostenia que el 2044 el 75-80% de la població naixeria a través d’aquest mètode i que, a més, només veurien la llum aquells éssers desitjables. Parlava d’eugenèsia, un tema que les teories darwinianes del segle XIX van posar molt de moda. Fins als anys seixanta, el Japó esterilitzava les persones amb Síndrome de Down o alguna deficiència sense el seu consentiment. Es tracta d’una pràctica eugenèsica que executa l’Estat sense el consentiment de les persones afectades. Avui en dia es duen a terme diverses pràctiques eugenèsiques.

A Las Otras escrius que “en els relats d’aquesta antologia no només ens trobem amb Galatees sinó també amb Pandores, un mite que m’interessa reivindicar com a metàfora per a analizar aquells textos en què es creen dones des d’una perspectiva patrilinial per a l’ús, el goig i el gaudi del plaer masculí”.

El relat de Las Otras de José María Merino, membre de la Reial Acadèmia Espanyola (RAE) i un dels autors de la literatura fantàstica de ciència-ficció més importants d’Espanya que ha publicat diversos textos protagonitzats per dones artificials, parla de prostíbuls i d’una societat on les fèmines virtuals estan molt sol·licitades, mentre manquen homes artificials perquè no hi ha demanda. Però va ser molt interessant veure com alguns autors dels contes de l’antologia defugen l’imaginari grecollatí i estereotipat de Galatees i Pandores i plantegen alternatives com fan Alberto Chimal, Naief Yehya o Lola Robles. Segons el mite, Pigmalió, el rei de Xipre, esculpeix Galatea perquè s’ha de casar i tenir descendència, però no li interessa cap dona de l’illa que regna. Perquè les considera a totes malvades i malignes. Perquè té por de l’altre, d’allò desconegut, allò que no és ell mateix. Per tant, decideix crear-se la seva pròpia muller i, tal com relata Ovidi a Metamorfosis, la fa a imatge seva. Aleshores, la deessa Venus infon vida a l’escultura. Galatea és la projecció del desig masculí, és la seva imatge, tal com passa amb la majoria d’actrius de Hollywood: dones que responen a la sexualitat heteronormativa per al gaudi i el plaer de l’ull masculí. Al final, Galatea és com una dona inflable que, a més, viu feliç com a esposa submisa i mare fins al final dels seus dies.

Pandora també és una dona artificial que neix per encàrrec de Zeus amb l’objectiu de castigar Prometeu per haver ajudat els homes. Per això, Zeus ordena a Hefest la creació d’alguna cosa desastrosa per a l’home. Cada déu de l’Olimp li confereix un do, mentre Hermes li infon la curiositat i la mentida. Al mateix temps, els déus omplen una capsa amb els mals de la humanitat i, Pandora, presa de la curiositat, l’obre i fugen tots els mals que corren avui per la terra, provocant també la seva mort. A mi m’interessa Pandora perquè quan parlem de dones artificials sempre es fa al·lusió a Galatea i, en canvi, mai es menciona a Pandora. En la majoria de textos com aquest, la dona -ja sigui de fang, metàl·lica, virtual o electrònica- acaba sent assassinada o destruïda, carregant-se també l’home que l’ha creada, que sovint és el pare o l’amant de l’artefacte. Ho veiem, per exemple, a El hombre de arena de Hoffmann. En el fons, crec que en aquests textos es penalitza la relació de l’home amb una dona artificial perquè amb ella no es pot reproduir. En la majoria d’aquests textos es parla de dones incompletes, que no tenen la regla ni poden engendrar fills. Són una joguina, un mer entreteniment.

És un enfocament que hauríem de canviar?

El posthumanisme crític es planteja una relació diferent amb la tecnologia i els éssers no humans. Desaprova l’antropolatria, la superioritat de l’ésser humà, tal com va fer Haraway al Manifest de les espècies de companyia. Dins el sistema capitalista, tractem malament els objectes perquè els comprem, ens els apropiem, els tirem i, després, ens en comprem uns altres. Això només fomenta el consumisme, l’esgotament dels recursos i la sobreproducció. En la ciència-ficció, la majoria d’éssers artificials són autoconscients, però se’ls tracta malament. Per això serveixen com una metàfora de l’altre i la diversitat. I, al final, el que es penalitza és això: la relació amb algú que no és igual. 

Per què hi ha encara tan poques tecnòlogues dones amb relació als homes? A la UIB, les dones no arriben al 8,5% del total de matriculats a Enginyeria Informàtica a la Universitat de les Illes Balears i representen com a màxim el 18% dels treballadors amb perfil tècnic del sector digital. Què cal fer per empènyer les dones a intervenir-hi, tenint en compte que la tecnologia tindrà un pes tan gran en la fabricació del futur?

És una qüestió de cultura i educació. Jo, que sóc professora de lletres, pràcticament només tinc dones. I a la carrera de Magisteri potser hi ha dos homes. Per això hem de construir imaginaris on les dones facin ciència i tecnologia, i amb això la ficció té un paper fonamental. Quantes pel·lícules has vist protagonitzades per una dona hacker? Si de petita ja et relaciones de manera natural amb la tecnologia, de gran escolliràs la carrera que vulguis. Però mentre els missatges que arriben a les nenes siguin que han d’estar boniques, dedicar-se a la criança i ser mestres… Per a generar nous discursos s’ha de fer resistència… però clar, quina resistència pot fer una adolescent de disset anys, si tot just comença a formar-se la seva consciència política? Quantes pensadores has llegit durant la carrera de Filosofia?

Doncs molt poques, la veritat. Hannah Arendt i poques més. Cap de les que ha esmentat aquí. D’homes, un munt.

Pràcticament, tots. Tenim un problema, i és com s’ensenya la Història. Porten tota la vida dient-me que no hi ha autores de ciència-ficció i és mentida. La primera novel·la del gènere és Frankenstein (1818) de Mary Shelley. De fet, la primera ginotopia [utopia on només apareixen personatges femenins] l’escriu Christine de Pisan el 1405 que, considerada la primera escriptora professional de la història d’Occident, imagina un món poblat només per dones que poden educar-se, escriure i cultivar-se. Allò cert és que li va costar molt viure en un món d’homes i no van parar de dir-li que mancava de capacitat intel·lectual. Quan estudiem Història de la literatura sembla que al segle XVIII no hi havia escriptores. Hi eren, però s’han invisibilitzat. Del ciberfeminisme he après que cal recompondre la Història de la ciència i la tecnologia tenint en compte la participació de les dones. No sabem què feien les dones del passat? Doncs investiguem-ho. Tothom coneix Utopia (1516) de Thomas More o La ciutat del sol (1602) de Campanella; però pocs coneixen The Blazing World (1666), una utopia fascinant de l’anglesa Margaret Cavendish on, a més, hi apareix una perspectiva ecocrítica molt interessant.

A la ciència-ficció també veiem allò que Barbara Creed defineix com la síndrome del femení monstruós. Per exemple, tal com comenta Rosi Braidotti, a la pel·lícula Alien l’ordinador principal que controla la nau es diu Mare i és molt malvada amb la protagonista. Las Otras vol combatre també aquesta idea?

La teòrica Rosi Braidotti amb la seva filosofia del posthumanisme crític feminista es presenta com a antihumanista. La seva posició vol fer-nos veure que hi ha alternatives a l’humanisme occidental imperialista, capitalista, blanc, occidental i heteronormatiu, per la qual cosa el posthumanisme ens ofereix altres maneres de relacionar-nos entre els éssers humans, amb el planeta que habitem i amb altres éssers vius i tecnològics. No és que Braidotti no cregui en la humanitat, sinó que aposta per una altra idea de l’humà més igualitària, justa i sostenible.
A l’antologia de Las Otras hi ha relats que defensen la subjectivitat posthumana, però també hi ha monstruositats femenines que simbolitzen i reforcen el patriarcat al costat d’unes altres que el subverteixen. La tradició literària i cinematogràfica està plagada d’aquesta mena de monstres femenins. Sense anar més lluny, l’exemple d’Alien també pot llegir-se com una crítica a la maternitat obligatòria. Si tens la bestiola al ventre, has de parir vulguis o no. Cal tenir en compte que la pel·lícula s’estrena als anys setanta, durant la segona onada feminista, quan precisament es comença a reivindicar el dret a l’avortament.

Nota dels editors: Aquest article és el primer d’una sèrie que ha impulsat el Laboratori de Dades per a la Intel·ligència Artificial (Data-to-AI Lab) de l’Institut Tecnològic de Massachusetts (MIT), amb qui La Tecnòloga col·labora, i que vol generar debat i cooperació en les comunitats de l’aprenentatge automàtic (machine learning) i la ciència de dades. Podeu llegir l’article original en aquest enllaç. Traducció d’Anna Schnabel.

Sobre les Xarxes Generatives Antagòniques i el seu potencial creatiu

Les estimacions inicials del valor del retrat Edmond de Belamy van situar el seu preu entre els 7.000 i els 10.000 dòlars. En realitat, la pintura en si no és res de l’altre món. Pinzellades barroeres de color marró, negre, blanc i gris esbossen un home més aviat desdibuixat mirant lúgubrement i confusa fora del quadre. Però el 25 d’octubre de 2018, quan va tornar la calma a la casa de subhastes Christie’s, a Nova York, el retrat s’havia venut per 432.500 dòlars. 

L’art d’artificial 

Què va provocar el frenesí per apostar per part dels participants presents aquella tarda a la sala de subhastes? El fet que la tela havia estat ‘pintada’ per una màquina. La sèrie de retrats de Belamy és obra d’Obvious, un grup de tres artistes i programadors francesos que produïren la peça utilitzant Xarxes Generatives Antagòniques, o GANs, a partir d’un conjunt de dades de 15.000 retrats europeus¹. El resultat? Onze obres úniques, incloent-hi el retrat Edmond de Belamy, amb trets característics de les obres que van nodrir i entrenar el model.

El projecte atribueix potencialment a l’art produït per intel·ligència artificial (AI) el mateix mèrit que a l’art fruit de la mà humana. Al cap i a la fi, el que els d’Obvious van fer és imprimir el resultat de l’algorisme que els va agradar més amb una impressora d’injecció i, posteriorment, van posar-hi un marc daurat i van signar l’obra amb un fragment del codi de l’algorisme. Res té d’especial l’objecte en si mateix; es podria imprimir i emmarcar un miler de vegades més. Així doncs, la guerra d’ofertes per aconseguir el retrat de Belamy sembla respondre més aviat a la voluntat de fer-se amb una peça clau de la història contemporània: el moment en què les màquines esdevenen artistes.

Les màquines creen, però poden ser creatives? Aquesta és la pregunta que fa sorgir l’aparició dels GANs. Per a programadors com els d’Obvious, els GANs poden convertir-se en una eina molt poderosa a l’hora de prendre part en el debat sobre l’autenticitat. Com a tal, el projecte de Belamy és només un fragment d’un debat molt més ampli al voltant de la definició de la creativitat i sobre si els humans poden encara considerar-se els seus practicants exclusius.

Fallar és generatiu

Des de la seva concepció dins de la ment d’Ian Goodfellow, els GANs s’han aplicat a una gran varietat de tasques ‘creatives’. D’acord amb l’article de Goodfellow et. al. del 2014, les Xarxes Generatives Antagòniques entrenen dos models -un generador i un discriminador- al mateix temps. Un conjunt de dades original (imatges, text, etc.) es presenta als dos algorismes, cadascun dels quals separa les dades i avalua com es relacionen els seus components entre ells. Aquesta és una aplicació típica d’una xarxa neuronal. Però el que ve a continuació és la clau del procés. La mitologia del moment dibuixa a Goodfellow plantejant-se una pregunta: “què passaria si les xarxes neuronals poguessin competir entre elles?”

Dins dels GANs, el concepte de les xarxes antagòniques està vinculat a una operació anomenada ‘retropropagació’, que és un component crític del procés d’aprenentatge. Així, la wiki de Skymind.AI compara:

“… una xarxa neuronal amb una gran peça d’artilleria que intenta colpejar un objecte llunyà amb un projectil. Quan la xarxa neuronal fa una suposició sobre un punt de les dades, dispara, un núvol de pols emergeix a l’horitzó, i el tirador intenta esbrinar on impacta el projectil i la distància que la separa de l’objectiu. I aquesta distància és la mesura de l’error. La mesura de l’error és aleshores aplicada a l’angle i la direcció de l’arma, abans que dispari de nou. La retropropagació pren l’error associat amb una suposició incorrecta d’una xarxa neuronal, i utilitza aquest error per ajustar els paràmetres de la xarxa neuronal en la direcció en què es redueix l’error”. 

En aquest sentit, la retropropagació és similar a la cognició humana. Un operador d’artilleria, disparant uns quants projectils per provar i refinar la seva punteria abans de fer diana, aprèn què funciona i què necessita ajustar i automàticament fa aquests canvis cada cop que dispara. Però així com l’operador ha de confiar en els propis ulls per comprovar el seu grau d’èxit o fracàs, els GANs tenen un algorisme discriminador que indica si el simulacre és discerniblement fals o no. A més a més, una màquina pot disparar milers de trets en el mateix temps en què un humà dispara un sol cop. La potència iterativa de càlcul de la màquina permet, doncs, que ambdues xarxes coevolucionin ràpidament.

En resum, la retropropagació crea un entorn en el qual un algorisme generador s’entrena de manera ràpida i eficaç competint contra un algorisme discriminador. L’algorisme generador no té límits pel que fa a les habilitats que pot assolir amb relació al discriminador. A través d’aquest procés, la falsificació s’acosta asimptòticament a la realitat fins al punt que distingir entre els dos deixa de ser possible, fins i tot per a les màquines. Així, després de l’entrenament apropiat, l’algorisme generador esdevé capaç de produir simulacres que poden enganyar l’ull digital del discriminador i, conseqüentment, l’ull humà observant el resultat.

Remesclant la realitat

Hi ha nombrosos exemples d’eines basades en GANs en els últims anys, que van des de les populars i depredadores aplicacions per a crear deepfakes fins a d’altres més il·lustrades com el DeepDream, eines basades en GANs per generar inquietants imatges al·lucinògenes a partir de fotografies reals. Project Magenta, un grup d’investigadors afiliats a Google, desenvolupen i acullen una llibreria d’eines basades en GANs per augmentar la producció de música digital, proporcionant una altra aplicació fascinant per a la manipulació i la millora del so. (Podeu escoltar els resultats de la col·laboració entre Magenta i el grup musical de Los Angeles YACHT a l’àlbum que llançaren el setembre del 2019 aquí. I a sota hi trobareu un exemple d’interpolació de vídeo utilitzant eines basades en GANs per a projectar cossos en moviment, presentat en un article recent de Caroline Chan.)

Però no creguem que els investigadors en IA inverteixen el seu temps en deixar sense feina a artistes ja famolencs, perquè aquestes aplicacions artístiques encara no estan preparades per competir amb els grans mestres. Continuen sent eines per ser emprades pels humans en àmbits molt diversos i en diferents graus d’utilitat. Això sí, a banda d’aplicacions artístiques, les eines basades en GANs estan fent ruta cap a altres reialmes, un tema que s’explorarà en una altra publicació. 

Durant els darrers dos anys, investigadors del Laboratori de Dades per a la Intel·ligència Artificial (Data-to-AI Lab) de l’Institut Tecnològic de Massachusetts (MIT) ha estat experimentant amb GANs per resoldre un grapat de problemes socialment rellevants, que van des de transmetre -i detectar- missatges secrets i protegir vídeos amb una marca d’aigua fins a identificar anomalies i preservar la privacitat. Al DAI Lab li complau compartir alguns dels seus projectes més engrescadors amb les comunitats de l’aprenentatge automàtic i la ciència de dades amb l’esperança de generar debat i col·laboració. Amb aquesta intenció, aquest article és el primer d’una sèrie de publicacions sobre els projectes de xarxes generatives antagòniques del laboratori per a incloure mostres de la nostra feina, tutorials, comentaris i llibreries de codi obert. Planegem publicar aquests articles cada dues setmanes, alternant-los amb una sèrie de tutorials dedicats a varis dels nostres últims projectes relacionats amb GANs. Torneu aviat a la nostra pàgina de Medium i seguiu-nos a Twitter.

[1]: El debat persisteix sobre l’origen del codi que Obvious va utilitzar per produir el retrat de Belamy. El programador Robbie Barat, artista d’IA no afiliat a Obvious, és responsable, segons algunes fonts, del 90% del codi utilitzat en el projecte, tot i que originalment havia publicat el codi sota la llicència creative commons.

“Maleït creador! Per què no vaig perdre en aquell moment la flama de l’existència que tan imprudentment vares encendre?” brama, amb set de venjança, la solitària criatura de Víctor Frankenstein a l’obra mestra de Mary Shelley. Sense màquines al relat, Frankenstein ha contribuït a crear un imaginari simbòlic de la Intel·ligència Artificial (IA) més a prop del recel que de l’encís: les nostres creacions poden rebel·lar-se i posar la humanitat contra les cordes. Són un mirall d’aquesta por irracional les novel·les 1984, Jo, robot, Un Món feliç; les pel·lícules Blade Runner, Matrix, Ex-Machina; les sèries Black Mirror, Westworld… La llista és inacabable.

Segons l’estudi El Factor Frankenstein: anatomia de la por a la Intel·ligència Artificial, elaborat per SogetiLabs el 2017, més d’un terç dels ciutadans de la Unió Europea creu que l’IA serà una amenaça per a la supervivència de l’home a llarg termini. Mentrestant, un 46% no veu cap benefici en la idea de desenvolupar robots humanoides. “Hi ha quelcom d’atàvic en la por que els humans sentim cap al progrés i la tecnologia. Cap a un futur que ens parla de suplantació”, escriu el director de la pel·lícula Eva, el barceloní Kike Maíllo, a La Màquina Aparentment Desobedient, publicat a la Revista Idees del Centre d’Estudis de Temes Contemporanis (CETC), que dimecres va oferir un diàleg en línia sobre l’imaginari simbòlic de l’IA entre dos investigadors de primer nivell: Ramon López de Mántaras i Carme Torras.

El cert és que la ciència-ficció ha apel·lat molt més a la distopia que a la utopia. I quan la tecnologia entra en escena, ja podem presagiar un final apocalíptic. Tot i això, la ciència-ficció no només ha servit per sembrar el terror: també ha contribuït a “crear debat i consciència crítica sobre la tecnologia i la Intel·ligència Artificial”, va advertir Carme Torras.

De fet, Torras, que és investigadora a l’Institut de Robòtica i Informàtica Industrial de la Universitat Politècnica de Catalunya (UPC), doctora en Informàtica i novel·lista, ho ha posat en pràctica a La mutació sentimental (Editorial Pagès Editors), on es planteja si el fet de ser criat per mainaderes artificials i educat per mestres robòtics afectaria els nostres hàbits intel·lectuals, emocionals i socials. Al mateix temps, posa sobre la taula una sèrie de qüestions que són utilitzades actualment a diverses universitats del món per impartir formació ètica en algunes carreres tecnològiques. Així, Orwell, Huxley o Shelley han entrat a l’acadèmia per polemitzar el dilema seguretat versus llibertat, el totalitarisme tecnològic, els substituts emocionals, les rèpliques humanes i un prolongat etcètera. Els interrogants morals també perseguiran el lector d’Enxarxats, obra de la mateixa autora –i a la qual la Fundació Bit va dedicar aquesta ressenya. Aquesta setmana, la Fundació Mallorca Literària ha entrevistat a Torras sobre aquesta novel·la i ha reflexionat amb ella sobre els múltiples dilemes que plantegen les xarxes socials a la societat.

La màquina es rebel·la

Predir el futur mai ha estat fàcil. Tot i això, durant l’acte del CETC, Ramón López de Mántaras, enginyer físic i investigador del Consell Superior d’Investigacions Científiques (CSIC), ens recordà la gran quantitat de projectes de recerca en IA dels darrers 50 anys que van ser anticipats per 2001: una Odissea a l’Espai (1968). Per exemple, el reconeixement facial -“fins i tot quan la cara només hi està dibuixada”, precisa l’investigador-, el diagnòstic predictiu d’avaries, la lectura de llavis, la capacitat de jugar a escacs a molt alt nivell o el domini absolut del llenguatge natural. López de Mántaras afegeix que el supercomputador Hal, encarregat de controlar les funcions de la nau espacial, no simula tenir estats mentals sinó que realment els experimenta, així com la por de ser desconnectat. Per això Hal “mata en defensa pròpia”, diu. De nou, la màquina es rebel·la. 

No obstant això, el dilema del robot entre acatar i sotmetre’s va aparèixer per primer cop a l’obra d’Isaac Asimov. El visionari autor, que enguany hauria complit 100 anys, despuntà com a escriptor enmig de l’horror d’Hiroshima i Nagasaki i una allau d’avenços tecnològics que amenaçaren com mai abans la humanitat. Asimov, científic de professió, va recórrer a la literatura per plantejar els dubtes i les pors que li generava la ciència: al seu llibre Jo, Robot va establir les famoses lleis fonamentals de la convivència entre humans i robots, que han estat assimilades per la comunitat que investiga en IA.

La fragmentació del coneixement en compartiments estancs mai no ha afavorit el progrés. Per això, la multidisciplinarietat és necessària si volem evitar el desastre. Com escriu Torras a la Revista Idees, el món de la recerca de la IA ha vist “la necessitat de treballar conjuntament amb científics socials, psicòlegs, advocats, filòsofs i antropòlegs per tal d’analitzar les implicacions socials i ètiques de les tecnologies que s’estan desenvolupant i la forma com s’estan desplegant”. I en aquesta tasca, la literatura, el setè art i els diferents engranatges que alimenten el nostre imaginari simbòlic hi tenen molt a dir. Com va dir Neal Stephenson, la ciència-ficció pot donar idees per a innovacions tècniques i, sobretot, “pot oferir una imatge coherent d’aquestes innovacions integrades en una societat, en l’economia i en la vida de les persones”.

Així, Kike Maíllo aconsegueix a la seva pel·lícula Eva que el gran públic es plantegi: Les màquines de companyia podran ser bones amigues nostres? Serem capaços d’establir lligams d’afecte amb artefactes que es limiten a obeir el seu propietari? I si els conferim consciència i lliure albir per a igualar-nos-hi, quina relació de poder hi establirem amb les màquines, una vegada hagin adquirit una intel·ligència immensament superior a la nostra?

La Intel·ligència Artificial, la ciència de dades i la tecnologia tenen un paper determinant en rastrejar i combatre la pandèmia del coronavirus

El món ha emmalaltit. L’últim dia d’hivern tanca amb més de 259.000 casos confirmats per coronavirus i 11.250 morts, i els mitjans de comunicació ens recorden a tothora que no hem tocat sostre. Però enmig de les males notícies, una d’esperançadora. Aquesta setmana, la Xina, on es va originar la pandèmia, ha registrat per primer cop zero contagis locals. I el robust sector tecnològic de la segona potència mundial hi ha tingut un paper determinant. Concretament, la Intel·ligència Artificial (IA), la ciència de dades i la tecnologia per rastrejar i combatre el Covid-19. Per exemple, un sistema de control que utilitza dades massives (Big Data) per identificar i avaluar el risc de cada individu en funció del seu historial de viatges o la possible exposició a persones portadores del virus.

El gegant asiàtic, però, també ha fet ús del vessant més polèmic de la tecnologia. El sofisticat sistema de vigilància del règim de Xi Jinping s’ha servit del reconeixement facial i de programari de detecció de temperatura per identificar persones que tenen febre o més probabilitats de patir el virus. Fins i tot va proporcionar a la policia de la regió de Sichuan cascos intel·ligents per identificar persones amb temperatura elevada. Mentre l’exigència de la privadesa en el tractament de les dades personals guanya pes arreu, és sabut que a la Xina la protecció de la informació personal decau en l’escala de prioritats. 

IA per predir un brot

Tot i així, la Intel·ligència Artificial pot ajudar-nos en aquest gran repte que tenim al davant d’una manera menys problemàtica. Per exemple, l’IA es fa servir per detectar l’afectació del Covid-19, pot guiar el desenvolupament de fàrmacs o identificar, rastrejar i pronosticar els brots. De fet, abans que es fessin públics els primers casos de coronavirus, la Intel·ligència Artificial ja ho sabia. El 31 de desembre, un algoritme desenvolupat per una empresa canadenca especialitzada en avaluar el risc de malalties infeccioses, BlueDot, ja havia descobert el brot i avisat de la notícia als seus clients, segons Wired, deu dies abans que l’Organització Mundial de la Salut (OMS) donés l’avís.

D’aquesta manera, el sistema de BlueDot proporciona una vigilància centralitzada de malalties partint de més de 10.000 fonts -documents governamentals, notícies publicades en webs informatius i diaris en més de 65 idiomes diferents-, permet conèixer la probabilitat que arribi una malaltia infecciosa a un indret determinat i envia notificacions personalitzades dels brots, segons l’interès del client. Així, per exemple, un algoritme llegeix notícies publicades en mitjans locals que mencionen casos de grip, morts sense una explicació aparent i símptomes que no s’ubiquen en un diagnòstic concret, tant en humans com en animals, i utilitza aquesta informació per a fer una predicció.

L’empresa també té accés a dades globals de bitllets d’avió, que poden ajudar a predir cap a on i quan viatgen els residents infectats, i quantes persones volen amb ells. És així com la companyia va predir correctament que el coronavirus saltaria de Wuhan a Bangkok, Seül, Taipei i Tòquio els dies següents a la seva aparició inicial. Una vegada l’IA ha fet la seva feina, els epidemiòlegs verifiquen si les conclusions tenen sentit des d’un punt de vista científic, i envien un informe als funcionaris de salut pública. I aquesta no és la primera vegada que BlueDot té èxit: ja va predir el brot de Zika al sud de Florida en una publicació a la revista mèdica britànica The Lancet.

IA per ajudar a detectar l’afectació

Però per trobar eines útils no cal anar tan lluny. Una startup catalana, Citibeats, crea observatoris per a governs sobre el coronavirus. De moment, ha llançat observatoris ciutadans en 26 països de Llatinoamèrica, segons explica el director, Ivan Caballero, a Crónica Global. D’acord amb Caballero, ofereixen informació pública, gratuïta i en temps real sobre l’evolució del Covid-19 en diferents àrees territorials. Així, la Intel·ligència Artificial pot detectar en quins barris hi ha més necessitats, així com els canvis d’hàbits i comportaments que es produeixen. Segons el mateix mitjà, la startup es troba actualment en converses amb el Govern espanyol i amb la Generalitat de Catalunya sobre la possibilitat de crear un observatori sobre el coronavirus.

La startup valenciana Quibim ha desenvolupat un sistema d’Aprenentatge Profund (Deep Learning, o sigui, una xarxa neuronal artificial que emula el funcionament d’un cervell biològic per a fer tasques concretes) que determina l’afectació d’un pacient amb Covid-19 a partir d’imatges mèdiques. D’aquesta manera, no diagnostica el virus, però ajuda als metges a prendre la decisió d’hospitalitzar o no als contagiats. De fet, aquesta solució ja s’utilitza en alguns centres per valorar la gravetat d’un pacient amb símptomes i decidir si enviar-lo a casa o ingressar-lo, tal com explica el director de Quibim a El País Retina.

Un altre sistema que ajuda a diagnosticar la malatia és aquell que ofereix la multinacional Infervision, que ha llançat un sistema per assistir a metges i infermers per detectar i supervisar el Covid-19. Segons un altre article de Wired, un algoritme de la companyia s’ha utilitzat en 34 hospitals xinesos per detectar signes visuals de la pneumònia associada al virus SARS-Cov-2 en 32.000 radiografies pulmonars, tot i que el diagnòstic definitiu requereix detectar el virus en els fluids corporals. Tots aquests sistemes permeten alleugerir la immensa càrrega de feina dels professionals sanitaris i millora la velocitat de diagnòstic. 

Robots que desinfecten amb llum ultraviolada

A les màquines no els preocupa contagiar-se, de manera que són els éssers ideals per netejar i esterilitzar espais en temps de confinament. Els robots de Blue Ocean Robotics tenen com a objectiu prevenir i reduir la propagació de virus, bacteris i altres microbis descomposant la seva estructura d’ADN utilitzant llum ultraviolada.

Per la seva banda, BenevolentAI utilitza Intel·ligència Artificial per crear medicines que puguin combatre les malalties més agressives. Actualment recolza els esforços per tractar el Covid-19. Segons Forbes, durant les setmanes posteriors al brot va utilitzar les seves capacitats de predicció per examinar l’afinitat de tots els fàrmacs aprovats per identificar aquells que tenen propietats antivíriques i antiinflamatòries, útils per combatre o mitigar els efectes del coronavirus.

Així doncs, la Intel·ligència Artificial s’ha unit a la lluita contra una pandèmia que ens ha tancat a casa i ha paralitzat el frenètic ritme de vida del planeta. Per ara, però, el principal problema és que aquests sistemes necessiten una sèrie de dades que, o bé encara s’estan generant, o bé no resulten completament accessibles. Tot i que BlueDot va predir el brot deu dies abans que fos anunciat per l’OMS, empreses com aquesta no solen revelar a qui proporcionen la informació ni com l’utilitzen. A més, també és cert que sovint la publicitat entorn les capacitats de la IA supera la realitat. Confiar-hi massa podria provocar la presa de decisions incorrectes, tenint en compte que els algoritmes poden contenir biaixos i no ser infalibles.

Qui no ha tingut mai un amor platònic? Potser ens hem enamorat de qui coneixíem ben poc, de qui no ens feia cas o de qui, directament, no sabia que existíem. És un amor unilateral, no correspost. Mancat de reciprocitat. És més el desig d’una idea que no pas d’algú real. L’enamorament nascut a Internet també és idealista en el sentit platònic. Lligant a través de Tinder, Facebook o Instagram, la representació dels usuaris -sovint manipulada- guanya el rol protagonista i la veritat queda relegada al segon pla. A la xarxa, l’enginy per semblar interessant i desitjable és el catalitzador d’un públic voyeur i infinit que busca sense descans contactar amb els altres en un espai sense olfacte, ni paraules en viu, ni jocs de mirades. 

El jo

Internet va néixer amb la promesa de fer públic el coneixement. I en part, el somni s’ha fet realitat. Ara tenim més informació al nostre abast i, allò que és més important: podem compartir-la. Però ho podem fer en la mesura que hi estem registrats en pàgines i perfils socials centrats en la identitat individual: l’element bàsic que basteix tota l’estructura. “Com si ens haguessin donat uns prismàtics que convertissin tot el que veiem en un reflex de nosaltres mateixos”, escriu Jia Tolentino a ‘Falso Espejo’. I de l’anhel d’un Internet alliberador, hem quedat atrapats pel propi jo online -continua Tolentino-, mentre les plataformes que havien de connectar-nos, han passat a induir l’alienació a una escala massiva.

Algú sol fent petons a una pantalla ens pot fer riure, però també ens recorda que la xarxa és la finestra cap a un públic invisible i sense fons. La pressió és enorme. No podem dir-ho tot perquè el preu pot ser massa elevat (una possible condemna social). I, de la mateixa manera, no podem quedar malament a les fotos (quants futurs amants podem perdre?). I així, al despotisme dels cànons estètics s’hi suma l’encadenament a la pròpia representació, adverteix Ingrid Guardiola en aquest article. “El filtre Facetune és com fer-te cirurgia plàstica amb el mòbil”, conta una usuària que vol operar-se per ser com les seves selfies.  

Però… quin és el jo autèntic? Si més no, a la xarxa hi mostrem un jo polièdric: una identitat presumiblement coherent que ha de poder de ser vista per diferents persones amb una opinió imprevisible. Una imatge que servirà de mediació per a diverses relacions socials. Una representació a través de la qual plantegem preguntes com ‘us agrado?’ o ‘us agrado fent això?’. Però tot això ja ho trobàrem reflectit a l’art d’Andy Warhol, on l’obra perd importància i guanya rellevància l’autor. També Warhol va popularitzar la voluntat d’exhibir-se com un fenomen universal. Cert o no, ara en tenim les eines.

L’altre

És mala època per als qui volen lligar a la xarxa i no són fotogènics o no tenen gràcia per escriure punyents peus de foto. No tenir el do pot restar punts, i molts. En canvi, els més enginyosos seran els més presents als timelines -ajudats pels algoritmes-, els aspirants a influencer, els qui entren als somnis i autoprojeccions dels altres perquè, d’alguna manera, quasi sempre hi són presents: cada cop que obren l’Instagram. 

Cada cop més connectats i, tot i així, més sols, separats, alienats. I no és casualitat. Tal com revela Judith Duportail al seu estudi sobre Tinder, que plasma a El algoritmo del amor, el que pretén l’aplicació és que ens hi enamorem, sí, però que sempre hi acabem tornant. “És important recordar a tots els que utilitzen o han utilitzat aquest tipus d’aplicacions de dating que la soledat és una part important del seu bussiness plan”, va dir l’autora en una entrevista a l’Ara. 

La comunitat de fans de les estrelles porno de dibuixos animats com Projekt Melody, que s’ha convertit en tot un fenomen, podria entendre’s com la màxima expressió d’un cert platonisme. Entre els seguidors més fervents de Melody hi ha els anomenats ‘digisexuals’, que expressen la seva identitat sexual a través de la tecnologia. I, segons els fans, aquest és només el començament. Alguns sostenen que les dones virtuals són el futur, o sigui, una versió millorada de les de carn i ossos. “Bots not thots” (”Els robots no són promiscus”), escriuen alguns a les comunitats virtuals. I això cal llegir-ho com una clara mostra de misogínia. No és estrany que molts seguidors de Melody coincideixin als espais més foscos i masclistes d’Internet: les comunitats d’incels -una abreviació en anglès de ‘cèlibes involuntaris’. 

Mentrestant, la cantant hologramàtica Hatsune Miku omplia al gener el Sant Jordi Club a Barcelona. La influencer virtual Lil Miquela, que té quasi 2 milions de seguidors a Instagram, és l’esquer de campanyes publicitàries i marques de luxe internacionals. El petó virtual que es va fer amb la model Bella Hadid per a la marca Calvin Klein va donar la volta al món -sense estalviar-se la polèmica. 

Més enllà dels enamoraments online, el documental Meeting you, emès per la cadena MBC, mostra com una mare utilitza realitat virtual per acomiadar-se de la seva filla de 7 anys, morta quatre anys abans. La mare, amb les ulleres posades, parla amb la nena i li acaricia els cabells. Al final, la petita ofereix un ram de flors a la mare i s’estira al llit dient que està cansada i que l’estima. Tot seguit, es queda adormida, es transforma en una papallona blanca i se’n va volant amb delicadesa.

La mare va assegurar que la recreació de la filla -que va costar vuit mesos de feina- la va ajudar a superar el dol, tot i que a l’altra banda dels seus plors no hi havia ningú. Una mostra d’amor unilateral, sense receptor, sense retorn. Una experiència que recorda l’idealisme més extrem: el solipsisme de Berkeley, segons el qual la realitat es deriva de l’activitat de la pròpia ment i no hi ha res més enllà d’un mateix. El reportatge va desfermar el debat sobre les implicacions morals i psicològiques de retrobar-se amb éssers estimats que ja no hi són. 

La unió

Una app per lligar pot ajudar a socialitzar-se a qui ha perdut la xarxa social -la de debò. Potser les relacions de parella no han canviat tant, però amb Internet s’ha obert un món de possibilitats i hi ha més terreny per explorar. Coses bones, també n’hi ha. Tot i així, Judith Duportail conta que Tinder disposa d’un registre de 800 pàgines de cada usuari i que, al mateix temps, et classifica segons la bellesa, el gènere, els estudis i la condició sense que ho sàpigues. 

A més, la disponibilitat de tantes potencials parelles fa que les persones siguin menys receptives a continuar sortint amb algú amb qui no es van entusiasmar. Les cites s’han tornat més complicades per la gran quantitat de participants en el joc. El flirteig ha esdevingut un fi en si mateix. Segons un informe del Havas Group, més d’un terç de la població admet que està més interessada en rebre l’aprovació de la comunitat que a trobar un company sexual. I el 39% dels participants en la recerca -quasi 17.500 persones majors de 13 anys de 37 països diferents- admeten que, estant dins d’una relació, continuen oberts a trobar algú millor.

Si al món offline el físic, les feromones o els jocs de mirades juguen un paper clau, al món online, segons l’informe, molts usuaris s’han obsessionat amb la performance sexual, experimentant cada cop més ansietat davant el temor de no complir les expectatives durant l’encontre. En conseqüència, el sexe s’ha convertit en un esdeveniment atlètic que demana entrenament. Més d’un 40% dels participants en la recerca es van mostrar disposats a monitoritzar la seva activitat sexual per millorar-la.

Així, l’amor online s’ha objectivitzat i racionalitzat a mesura que la gent està cada cop més disposada a lliurar els desitjos a les dades i la tecnologia. Les aplicacions, els algoritmes i la intel·ligència artificial es consideren una bona manera d’optimitzar la cerca d’un amant.

El romanticisme no ha mort 

Tot i així, vuit de cada deu persones continuen convençudes que l’amor pot durar per sempre. I la majoria -dos terços dels homes i més de la meitat de les dones- creuen que sense una parella romàntica falta a la vida quelcom d’essencial. De fet, la noció d’amor etern és encara tan present que més d’un 40% prefereix romandre en una relació que no és del tot satisfactòria, que no pas estar sol. Però, igual que la tecnologia ha fet aparèixer noves formes de començar una relació, també ha propiciat noves maneres d’acabar-les. Segons el mateix informe, quasi el 60% de la gent creu que és més fàcil tallar a través d’un missatge o les xarxes socials que no pas en persona. Simplement esvaïnt-se.