La tècnica clau en aquesta organització és la mineria de dades (data mining, en anglès), que consisteix a analitzar un gran volum d’informació emmagatzemada en diferents bases de dades, de manera automàtica o semiautomàtica, a fi de deduir patrons de coneixement i algoritmes que puguin generar aplicacions pràctiques i treure’n rendiment. Aquests patrons es poden trobar utilitzant estadístiques o algoritmes de cerca propers a la intel·ligència artificial i a les xarxes neuronals.  

La mineria de dades va néixer amb la intenció d’ajudar a comprendre una enorme quantitat de dades, i que se n’extraguessin conclusions per contribuir a la millora i el creixement de les empreses, sobretot pel que fa a les vendes i la fidelització de clients. Fora de l’àmbit empresarial, en les institucions també té un gran camp per recórrer, ja que aquesta tècnica s’ha incorporat en governs, universitats, hospitals i altres organitzacions que volen treure el màxim rendiment de les dades que acumulen, i fer que reverteixin de manera positiva en l’activitat.

Un altre concepte relacionat és la mineria web (web mining, en anglès): és la tècnica informàtica de mineria de dades aplicada específicament a extreure informació del contingut de pàgines web, de la seva estructura de relacions i enllaços i dels registres de navegació dels usuaris.

Podeu consultar al Cercaterm, el cercador terminològic del TERMCAT, les fitxes d’aquests termes catalans, i també trobareu al canal Terminologia de les TIC altres recursos d’aquest àmbit.

El cíborg ha burlat els límits de la ciència-ficció per convertir-se en la nova definició de l’ésser humà: com a espècie, hem creat artificialment el món que habitem i, alhora, hem modificat la naturalesa per adaptar-la al nostre mode de vida. I, en aquest context, la tecnologia també pot servir a causes emancipadores. Aquesta idea teixeix els escrits reunits per Teresa López-Pellisa i Remedios Zafra a l’antologia Ciberfeminismo. De VNS Matrix a Laboria Cuboniks (Ediciones Holobionte), que recullen el pensament de més de vint creadores i pensadores ciberfeministes, o sigui, els feminismes orientats a la tecnologia. El mateix principi vertebra els relats de Las Otras: Antología de mujeres artificiales (Eolas Ediciones), editat per López-Pellisa i que aplega contes de vint-i-sis autores i autors catalans, espanyols i llatinoamericans sobre ginoides, nines o dones virtuals i biotecnològiques de silici, plàstic i dígits binaris. L’obra defuig els clixés i, aquest cop, molts autors s’atreveixen a anar més enllà de la concepció tradicional de la dona artificial com a fetitxe, prostituta o companya sentimental en el marc de les relacions heteronormatives i dibuixen la imatge de l’autòmat femení des de postures dissidents. 

Potser se’n parla poc, de ciberfeminisme, tot i que el feminisme i la seva relació amb la tecnologia és un tema d’absoluta actualitat?

L’etiqueta de ciberfeminisme ja no està d’actualitat, tot i que continua existint. De fet, moltes ciberfeministes han anat canviant de posicionaments, tal com es pot comprovar en el procés del llibre [Ciberfeminismo. De VNS Matrix a Laboria Cuboniks] que, primer cop, tradueix i reuneix textos clau del ciberfeminisme. El concepte de ciberfeminisme s’encunya als anys noranta. Neix sobretot en el context de l’art feminista i el Net.art, quan es reflexiona sobre la cibercultura en uns termes que avui ens resulten inversemblants i ingenus. Cal tenir en compte que als noranta no tothom tenia un ordinador personal. Tal com escriu Remedios Zafra al pròleg, el llibre també reivindica la necessitat de publicar aquests textos en la llengua cíborg, meridional i mestissa que és el castellà per evidenciar les relacions entre Espanya i Llatinoamèrica amb una cultura digital que semblava que pertanyia exclusivament al món anglosaxó, i recull des dels primers manifestos dels noranta fins al posthumanisme i el xenofeminisme, que és cap a allò al qual ha tendit el ciberfeminisme. El problema és que el ciberfeminisme dels noranta reclamava un espai per a la cultura digital que per a les dones no ha existit. Es pensava en una relació postgènere a l’espai virtual que finalment no ha sigut real perquè el patriarcat l’ha col·lonitzat. 

Com es podria caracteritzar el ciberfeminisme avui?

Trobem el ciberfeminisme en Las Otras o en pel·lícules com Her, Ex-Machina, Ghost in the Shell, o en sèries com Black Mirror; productes culturals que reflexionen sobre l’imaginari científic i tecnològic de la feminitat i la projecció d’aquest futur especulatiu a través de la ciència-ficció. Cada cop que tractem l’imaginari femení tecnològic parlem de ciberfeminisme. Els ciberfeminismes plantegen que allò personal és hiperpolític -i no només polític, com deien els feminismes de la segona onada- entenent la hiperpolítica com una ampliació d’allò polític a través de la seva extensió al món virtual. Totes les lluites feministes que es duen a terme a través de la xarxa tenen a veure amb el ciberfeminisme o allò que s’ha denominat tecnofeminisme. El llibre va de Venus Matrix, un grup d’artistes australianes sorgit als noranta, fins als textos xenofeministes del 2019. Algunes treballen des del ciberactivisme i les xarxes de dones del ciberespai, mentre altres treballen des de la idea de la representació de la dona en l’imaginari científic i tecnològic cultural i els estereotips que s’hi repeteixen i que reforcen la desigualtat de gènere.

Estem veient la quasi monopolització dels codis estètics per part de lògiques mercantilistes i algunes grans empreses, i, per tant, ni els videojocs, ni les xarxes socials, ni altres espais virtuals són, generalment, feministes avui en dia.

Els estereotips no només es perpetuen en la ficció: la ficció crea la realitat. Allò que consumim és allò que naturalitzem com a normatiu i com a real. Per això és important analitzar la representació femenina al cinema i la literatura del passat: per a entendre com s’ha construït una realitat que es continua perpetuant. El que passa és que interioritzem aquests rols i discursos en la mesura que els veiem. Al món virtual de Second Life, tots els avatars tenen uns cossos impressionants. Allà tothom pot tenir el físic que sempre ha volgut. Però el gust i l’estètica deriven de la cultura, i si continuem educant-nos en els mateixos models, res canviarà. Si no plantegem alternatives, no podem imaginar-nos altres possibilitats. I és en la imaginació poètica i l’espai simbòlic on es plantegen aquestes altres opcions. Per això la ciència-ficció és tan interessant: perquè ens pot mostrar altres societats viables. I perquè la ficció crea o reforça la realitat. Però, compte, que també pot ser conservadora.

Sovint les distopies ens transmeten recel cap a allò que en realitat és crític o vol qüestionar el present...

Sí, és un dels gèneres de moda del segle XXI. Trobem una gran quantitat de distopies al teatre, a la narrativa i al cinema. I habitualment són súper conservadores. Ens diuen que el futur és pitjor, que val més quedar-nos així i conformar-nos amb allò que tenim. A través de la por, se’ns condueix cap a la immobilitat. Però també hi ha distopies interessants, aquelles que ens inciten a canviar les causes del nostre malestar. És preferible sortir de l’habitual discurs distòpic per plantejar-nos alternatives socials, solidàries, de gènere, de sexualitat… I, això, avui, l’única narrativa que ho fa possible és la ciència-ficció.

Ha de ser aquesta una de les missions de la ciència-ficció? A Ciberfeminismo es planteja que l’art té més potència deconstructiva que la teoria perquè aquesta última està més afectada pels codis i estructures científic-tecnològiques.

Quasi totes les filòsofes i els filòsofs contemporanis utilitzen la ciència-ficció en els seus textos. Braidotti, Haraway, Zizek o Sloterdijk, que s’adonen que no es tracta d’un gènere marginal perquè planteja qüestions, metàfores i imaginacions de la poètica de la resistència amb un contingut social i polític molt interessant. A través de la ciència-ficció es pot plantejar un món fora del patriarcat i del gènere binari i normatiu. Unes altres regles són possibles en la ficció i en el ciberespai, que era allò que plantejaven algunes ciberfeministes dels noranta. Ara bé, cal després que puguem treure aquestes qüestions al món real, ja que al final la ficció és el reflex del món i viceversa.

La tecnologia diria que és ambivalent. Per una banda, ha esdevingut un lloc on ha quallat la societat patriarcal mentre, alhora, pot tenir un paper important per a les lluites feministes. Com podem utilitzar la tecnologia per aconseguir una justícia social i de gènere, segons els últims corrents ciberfeministes? 

La reproducció i la biotecnologia són temes que actualment treballen els col·lectius SubRosa o Laboria Cuboniks, i tenen molt a veure amb el posthumanisme tecnomaterialista (tot són paraulotes meravelloses!). En plena segona onada del feminisme, Shulamith Firestone escriu la Dialèctica del Sexe, on parla de l’alliberament del rol reproductiu de les dones a través dels anticonceptius. Aquest fet suposa una revolució perquè de sobte les dones guanyen la capacitat de decidir si volen reproduir-se o no. Més enllà dels anticonceptius, també es posa sobre la taula la possibilitat de l’ectogènesi, que és la gestació fora de l’úter. Hi ha una antologia de ciència-ficció escrita per dones espanyoles i llatinoamericanes, Proyectogénesis, on només hi apareixen relats que plantegen mons on això succeeix. I, en alguns casos, no són gens encoratjadors. És clar, el problema d’aquesta tecnologia -com el de qualsevol altra- és a quins interessos respon, qui hi accedirà o quin preu tindrà. Per això els ciberfeminismes han reclamat que aquestes eines siguin sense ànim de lucre. En el marc del capitalisme monopolista, els beneficis d’una tecnologia perverteixen el seu sentit. Què passaria si l’Estat necessita més soldats o pagadors d’impostos perquè mantinguin el sistema i la reproducció humana ja no depèn de la dona? A l’Estat li interessa tenir un control sobre els úters i els cossos femenins, i per això es legisla.

Tot això ja s’ho van plantejar les primeres ciberfeministes?

Quan Donna Haraway [considerada la primera ciberfeminista] escriu el Manifest Cíborg, l’humà entès com a cíborg, com un organisme biològic modificat per la tecnologia, esdevé un ésser queer. Tot i que el concepte queer no apareix fins més tard, Haraway l’utilitza més enllà del significat literal i el transforma en una metàfora del subjecte postmodern. Alhora, ens diu que els límits entre biologia i cultura o entre natural i artificial són borrosos. Ens diu que la biologia és un discurs científic que respon a uns certs interessos històrics de gènere, per exemple. Haraway obre un món per a l’ésser humà que interactua amb els entorns digitals i evidencia que les nostres identitats estan absolutament intervingudes per les noves tecnologies. D’alguna manera, tots som cíborgs, al marge de les pròtesis que cadascú duu al cos -vacunes, ulleres, etc. Els ciberfeminismes i el posthumanisme crític feminista sostenen que cal desplaçar l’humà com a mesura de totes les coses perquè aquesta idea és absolutament androcèntrica, antropocèntrica, patriarcal i racista, i no inclou les dones, ni els cossos amb disfuncionalitat, ni els d’altres colors de pell, ni els altres éssers vius amb els quals convivim… Aquest pensament té molt a veure amb la quarta onada feminista que vivim, on l’ecocrítica és fonamental. Cal veure com la tecnologia i la biotecnologia han vist beneficis en l’explotació de la terra i els cossos. Això preocupa molt des de l’ectogènesi, la clonació o la intervenció en la línia germinal, que consisteix a dissenyar els éssers que naixeran utilitzant la reproducció en els cossos femenins. En aquest sentit, es parla d’eugenèsia terapèutica. Però les tecnologies poden servir tant per al control com per a l’alliberament. Ara ens toca debatre quin ús donarem a la biotecnologia un cop descoberta la recepta de l’ADN que ens permet intervenir-lo i modificar-lo.

Cal veure com utilitzarem el mètode d’edició genètica CRISPR…

Exacte, l’edició de l’ADN suposa un canvi de paradigma. De fet, John Haldan, un biòleg de principis del segle XX -qui, per cert, coneixia Aldous Huxley, l’autor de la novel·la distòpica genètica Un món feliç (1932)- va treballar en les possibilitats de la biologia reproductiva durant els anys vint i somiava amb la possibilitat que, en un futur, l’espècie es reproduiria per ectogènesi. Sostenia que el 2044 el 75-80% de la població naixeria a través d’aquest mètode i que, a més, només veurien la llum aquells éssers desitjables. Parlava d’eugenèsia, un tema que les teories darwinianes del segle XIX van posar molt de moda. Fins als anys seixanta, el Japó esterilitzava les persones amb Síndrome de Down o alguna deficiència sense el seu consentiment. Es tracta d’una pràctica eugenèsica que executa l’Estat sense el consentiment de les persones afectades. Avui en dia es duen a terme diverses pràctiques eugenèsiques.

A Las Otras escrius que “en els relats d’aquesta antologia no només ens trobem amb Galatees sinó també amb Pandores, un mite que m’interessa reivindicar com a metàfora per a analizar aquells textos en què es creen dones des d’una perspectiva patrilinial per a l’ús, el goig i el gaudi del plaer masculí”.

El relat de Las Otras de José María Merino, membre de la Reial Acadèmia Espanyola (RAE) i un dels autors de la literatura fantàstica de ciència-ficció més importants d’Espanya que ha publicat diversos textos protagonitzats per dones artificials, parla de prostíbuls i d’una societat on les fèmines virtuals estan molt sol·licitades, mentre manquen homes artificials perquè no hi ha demanda. Però va ser molt interessant veure com alguns autors dels contes de l’antologia defugen l’imaginari grecollatí i estereotipat de Galatees i Pandores i plantegen alternatives com fan Alberto Chimal, Naief Yehya o Lola Robles. Segons el mite, Pigmalió, el rei de Xipre, esculpeix Galatea perquè s’ha de casar i tenir descendència, però no li interessa cap dona de l’illa que regna. Perquè les considera a totes malvades i malignes. Perquè té por de l’altre, d’allò desconegut, allò que no és ell mateix. Per tant, decideix crear-se la seva pròpia muller i, tal com relata Ovidi a Metamorfosis, la fa a imatge seva. Aleshores, la deessa Venus infon vida a l’escultura. Galatea és la projecció del desig masculí, és la seva imatge, tal com passa amb la majoria d’actrius de Hollywood: dones que responen a la sexualitat heteronormativa per al gaudi i el plaer de l’ull masculí. Al final, Galatea és com una dona inflable que, a més, viu feliç com a esposa submisa i mare fins al final dels seus dies.

Pandora també és una dona artificial que neix per encàrrec de Zeus amb l’objectiu de castigar Prometeu per haver ajudat els homes. Per això, Zeus ordena a Hefest la creació d’alguna cosa desastrosa per a l’home. Cada déu de l’Olimp li confereix un do, mentre Hermes li infon la curiositat i la mentida. Al mateix temps, els déus omplen una capsa amb els mals de la humanitat i, Pandora, presa de la curiositat, l’obre i fugen tots els mals que corren avui per la terra, provocant també la seva mort. A mi m’interessa Pandora perquè quan parlem de dones artificials sempre es fa al·lusió a Galatea i, en canvi, mai es menciona a Pandora. En la majoria de textos com aquest, la dona -ja sigui de fang, metàl·lica, virtual o electrònica- acaba sent assassinada o destruïda, carregant-se també l’home que l’ha creada, que sovint és el pare o l’amant de l’artefacte. Ho veiem, per exemple, a El hombre de arena de Hoffmann. En el fons, crec que en aquests textos es penalitza la relació de l’home amb una dona artificial perquè amb ella no es pot reproduir. En la majoria d’aquests textos es parla de dones incompletes, que no tenen la regla ni poden engendrar fills. Són una joguina, un mer entreteniment.

És un enfocament que hauríem de canviar?

El posthumanisme crític es planteja una relació diferent amb la tecnologia i els éssers no humans. Desaprova l’antropolatria, la superioritat de l’ésser humà, tal com va fer Haraway al Manifest de les espècies de companyia. Dins el sistema capitalista, tractem malament els objectes perquè els comprem, ens els apropiem, els tirem i, després, ens en comprem uns altres. Això només fomenta el consumisme, l’esgotament dels recursos i la sobreproducció. En la ciència-ficció, la majoria d’éssers artificials són autoconscients, però se’ls tracta malament. Per això serveixen com una metàfora de l’altre i la diversitat. I, al final, el que es penalitza és això: la relació amb algú que no és igual. 

Per què hi ha encara tan poques tecnòlogues dones amb relació als homes? A la UIB, les dones no arriben al 8,5% del total de matriculats a Enginyeria Informàtica a la Universitat de les Illes Balears i representen com a màxim el 18% dels treballadors amb perfil tècnic del sector digital. Què cal fer per empènyer les dones a intervenir-hi, tenint en compte que la tecnologia tindrà un pes tan gran en la fabricació del futur?

És una qüestió de cultura i educació. Jo, que sóc professora de lletres, pràcticament només tinc dones. I a la carrera de Magisteri potser hi ha dos homes. Per això hem de construir imaginaris on les dones facin ciència i tecnologia, i amb això la ficció té un paper fonamental. Quantes pel·lícules has vist protagonitzades per una dona hacker? Si de petita ja et relaciones de manera natural amb la tecnologia, de gran escolliràs la carrera que vulguis. Però mentre els missatges que arriben a les nenes siguin que han d’estar boniques, dedicar-se a la criança i ser mestres… Per a generar nous discursos s’ha de fer resistència… però clar, quina resistència pot fer una adolescent de disset anys, si tot just comença a formar-se la seva consciència política? Quantes pensadores has llegit durant la carrera de Filosofia?

Doncs molt poques, la veritat. Hannah Arendt i poques més. Cap de les que ha esmentat aquí. D’homes, un munt.

Pràcticament, tots. Tenim un problema, i és com s’ensenya la Història. Porten tota la vida dient-me que no hi ha autores de ciència-ficció i és mentida. La primera novel·la del gènere és Frankenstein (1818) de Mary Shelley. De fet, la primera ginotopia [utopia on només apareixen personatges femenins] l’escriu Christine de Pisan el 1405 que, considerada la primera escriptora professional de la història d’Occident, imagina un món poblat només per dones que poden educar-se, escriure i cultivar-se. Allò cert és que li va costar molt viure en un món d’homes i no van parar de dir-li que mancava de capacitat intel·lectual. Quan estudiem Història de la literatura sembla que al segle XVIII no hi havia escriptores. Hi eren, però s’han invisibilitzat. Del ciberfeminisme he après que cal recompondre la Història de la ciència i la tecnologia tenint en compte la participació de les dones. No sabem què feien les dones del passat? Doncs investiguem-ho. Tothom coneix Utopia (1516) de Thomas More o La ciutat del sol (1602) de Campanella; però pocs coneixen The Blazing World (1666), una utopia fascinant de l’anglesa Margaret Cavendish on, a més, hi apareix una perspectiva ecocrítica molt interessant.

A la ciència-ficció també veiem allò que Barbara Creed defineix com la síndrome del femení monstruós. Per exemple, tal com comenta Rosi Braidotti, a la pel·lícula Alien l’ordinador principal que controla la nau es diu Mare i és molt malvada amb la protagonista. Las Otras vol combatre també aquesta idea?

La teòrica Rosi Braidotti amb la seva filosofia del posthumanisme crític feminista es presenta com a antihumanista. La seva posició vol fer-nos veure que hi ha alternatives a l’humanisme occidental imperialista, capitalista, blanc, occidental i heteronormatiu, per la qual cosa el posthumanisme ens ofereix altres maneres de relacionar-nos entre els éssers humans, amb el planeta que habitem i amb altres éssers vius i tecnològics. No és que Braidotti no cregui en la humanitat, sinó que aposta per una altra idea de l’humà més igualitària, justa i sostenible.
A l’antologia de Las Otras hi ha relats que defensen la subjectivitat posthumana, però també hi ha monstruositats femenines que simbolitzen i reforcen el patriarcat al costat d’unes altres que el subverteixen. La tradició literària i cinematogràfica està plagada d’aquesta mena de monstres femenins. Sense anar més lluny, l’exemple d’Alien també pot llegir-se com una crítica a la maternitat obligatòria. Si tens la bestiola al ventre, has de parir vulguis o no. Cal tenir en compte que la pel·lícula s’estrena als anys setanta, durant la segona onada feminista, quan precisament es comença a reivindicar el dret a l’avortament.

La intel·ligència artificial és una branca de la informàtica aplicada al desenvolupament de màquines amb capacitat de simular conductes humanes o d’aproximar-s’hi, com ara el raonament, l’aprenentatge, el processament i la interpretació d’estímuls sensorials.  Així, es dedica al desenvolupament d’algorismes que permeten a un ordinador percebre el seu entorn lògic i prendre decisions amb la mínima intervenció humana, per maximitzar les seves possibilitats d’èxit en una o més tasques.

Tot i remuntar-se a la dècada dels anys 50, la intel·ligència artificial està més d’actualitat que mai per les aplicacions que tècniques com el reconeixement de veu i d’imatge, la traducció automàtica o la mateixa predicció de paraules tenen en l’àmbit de la comunicació entre els humans i les màquines. 

En aquest àmbit, és rellevant el procés de l’aprenentatge automàtic (en anglès, machine learning) dedicat a l’anàlisi, el disseny i el desenvolupament d’algorismes i tècniques que permeten que les màquines evolucionin, millorant el seu comportament a partir de l’estudi d’observacions o de les experiències pròpies.

En l’aprenentatge automàtic els dispositius treballen sobre grans volums de dades, hi identifiquen patrons de comportament i, sobre aquesta base, prediuen i suggereixen comportaments futurs. Aquesta possibilitat d’aplicar automàticament càlculs matemàtics complexos a dades massives (big data, en anglès) és un assoliment relativament recent que amplia el camp d’intervenció d’aquesta tècnica. 

Per exemple, la indústria financera l’utilitza per detectar oportunitats d’inversió i fer vigilància del frau. Els governs, per explotar les múltiples fonts de dades disponibles. La indústria de la salut ha desplegat dispositius i sensors que avaluen constants d’un pacient en temps real, i porten a la millora de diagnòstics i tractaments. I la indústria del màrqueting i les vendes, per analitzar historials de compra. 

I anant a un terreny més pràctic, són exemples concrets d’aplicació de l’aprenentatge automàtic la conducció autònoma que anuncia Google, les recomanacions en línia que ens fan Amazon o Netflix, a partir de l’anàlisi dels nostres patrons de comportament, o les alertes per detecció de fraus en ciberseguretat. 

Podeu consultar al Cercaterm,  el cercador terminològic del TERMCAT, les fitxes d’aquests termes catalans, i també trobareu al  canal Terminologia de les TIC  altres recursos d’aquest àmbit. 

Nota dels editors: Aquest article és el primer d’una sèrie que ha impulsat el Laboratori de Dades per a la Intel·ligència Artificial (Data-to-AI Lab) de l’Institut Tecnològic de Massachusetts (MIT), amb qui La Tecnòloga col·labora, i que vol generar debat i cooperació en les comunitats de l’aprenentatge automàtic (machine learning) i la ciència de dades. Podeu llegir l’article original en aquest enllaç. Traducció d’Anna Schnabel.

Sobre les Xarxes Generatives Antagòniques i el seu potencial creatiu

Les estimacions inicials del valor del retrat Edmond de Belamy van situar el seu preu entre els 7.000 i els 10.000 dòlars. En realitat, la pintura en si no és res de l’altre món. Pinzellades barroeres de color marró, negre, blanc i gris esbossen un home més aviat desdibuixat mirant lúgubrement i confusa fora del quadre. Però el 25 d’octubre de 2018, quan va tornar la calma a la casa de subhastes Christie’s, a Nova York, el retrat s’havia venut per 432.500 dòlars. 

L’art d’artificial 

Què va provocar el frenesí per apostar per part dels participants presents aquella tarda a la sala de subhastes? El fet que la tela havia estat ‘pintada’ per una màquina. La sèrie de retrats de Belamy és obra d’Obvious, un grup de tres artistes i programadors francesos que produïren la peça utilitzant Xarxes Generatives Antagòniques, o GANs, a partir d’un conjunt de dades de 15.000 retrats europeus¹. El resultat? Onze obres úniques, incloent-hi el retrat Edmond de Belamy, amb trets característics de les obres que van nodrir i entrenar el model.

El projecte atribueix potencialment a l’art produït per intel·ligència artificial (AI) el mateix mèrit que a l’art fruit de la mà humana. Al cap i a la fi, el que els d’Obvious van fer és imprimir el resultat de l’algorisme que els va agradar més amb una impressora d’injecció i, posteriorment, van posar-hi un marc daurat i van signar l’obra amb un fragment del codi de l’algorisme. Res té d’especial l’objecte en si mateix; es podria imprimir i emmarcar un miler de vegades més. Així doncs, la guerra d’ofertes per aconseguir el retrat de Belamy sembla respondre més aviat a la voluntat de fer-se amb una peça clau de la història contemporània: el moment en què les màquines esdevenen artistes.

Les màquines creen, però poden ser creatives? Aquesta és la pregunta que fa sorgir l’aparició dels GANs. Per a programadors com els d’Obvious, els GANs poden convertir-se en una eina molt poderosa a l’hora de prendre part en el debat sobre l’autenticitat. Com a tal, el projecte de Belamy és només un fragment d’un debat molt més ampli al voltant de la definició de la creativitat i sobre si els humans poden encara considerar-se els seus practicants exclusius.

Fallar és generatiu

Des de la seva concepció dins de la ment d’Ian Goodfellow, els GANs s’han aplicat a una gran varietat de tasques ‘creatives’. D’acord amb l’article de Goodfellow et. al. del 2014, les Xarxes Generatives Antagòniques entrenen dos models -un generador i un discriminador- al mateix temps. Un conjunt de dades original (imatges, text, etc.) es presenta als dos algorismes, cadascun dels quals separa les dades i avalua com es relacionen els seus components entre ells. Aquesta és una aplicació típica d’una xarxa neuronal. Però el que ve a continuació és la clau del procés. La mitologia del moment dibuixa a Goodfellow plantejant-se una pregunta: “què passaria si les xarxes neuronals poguessin competir entre elles?”

Dins dels GANs, el concepte de les xarxes antagòniques està vinculat a una operació anomenada ‘retropropagació’, que és un component crític del procés d’aprenentatge. Així, la wiki de Skymind.AI compara:

“… una xarxa neuronal amb una gran peça d’artilleria que intenta colpejar un objecte llunyà amb un projectil. Quan la xarxa neuronal fa una suposició sobre un punt de les dades, dispara, un núvol de pols emergeix a l’horitzó, i el tirador intenta esbrinar on impacta el projectil i la distància que la separa de l’objectiu. I aquesta distància és la mesura de l’error. La mesura de l’error és aleshores aplicada a l’angle i la direcció de l’arma, abans que dispari de nou. La retropropagació pren l’error associat amb una suposició incorrecta d’una xarxa neuronal, i utilitza aquest error per ajustar els paràmetres de la xarxa neuronal en la direcció en què es redueix l’error”. 

En aquest sentit, la retropropagació és similar a la cognició humana. Un operador d’artilleria, disparant uns quants projectils per provar i refinar la seva punteria abans de fer diana, aprèn què funciona i què necessita ajustar i automàticament fa aquests canvis cada cop que dispara. Però així com l’operador ha de confiar en els propis ulls per comprovar el seu grau d’èxit o fracàs, els GANs tenen un algorisme discriminador que indica si el simulacre és discerniblement fals o no. A més a més, una màquina pot disparar milers de trets en el mateix temps en què un humà dispara un sol cop. La potència iterativa de càlcul de la màquina permet, doncs, que ambdues xarxes coevolucionin ràpidament.

En resum, la retropropagació crea un entorn en el qual un algorisme generador s’entrena de manera ràpida i eficaç competint contra un algorisme discriminador. L’algorisme generador no té límits pel que fa a les habilitats que pot assolir amb relació al discriminador. A través d’aquest procés, la falsificació s’acosta asimptòticament a la realitat fins al punt que distingir entre els dos deixa de ser possible, fins i tot per a les màquines. Així, després de l’entrenament apropiat, l’algorisme generador esdevé capaç de produir simulacres que poden enganyar l’ull digital del discriminador i, conseqüentment, l’ull humà observant el resultat.

Remesclant la realitat

Hi ha nombrosos exemples d’eines basades en GANs en els últims anys, que van des de les populars i depredadores aplicacions per a crear deepfakes fins a d’altres més il·lustrades com el DeepDream, eines basades en GANs per generar inquietants imatges al·lucinògenes a partir de fotografies reals. Project Magenta, un grup d’investigadors afiliats a Google, desenvolupen i acullen una llibreria d’eines basades en GANs per augmentar la producció de música digital, proporcionant una altra aplicació fascinant per a la manipulació i la millora del so. (Podeu escoltar els resultats de la col·laboració entre Magenta i el grup musical de Los Angeles YACHT a l’àlbum que llançaren el setembre del 2019 aquí. I a sota hi trobareu un exemple d’interpolació de vídeo utilitzant eines basades en GANs per a projectar cossos en moviment, presentat en un article recent de Caroline Chan.)

Però no creguem que els investigadors en IA inverteixen el seu temps en deixar sense feina a artistes ja famolencs, perquè aquestes aplicacions artístiques encara no estan preparades per competir amb els grans mestres. Continuen sent eines per ser emprades pels humans en àmbits molt diversos i en diferents graus d’utilitat. Això sí, a banda d’aplicacions artístiques, les eines basades en GANs estan fent ruta cap a altres reialmes, un tema que s’explorarà en una altra publicació. 

Durant els darrers dos anys, investigadors del Laboratori de Dades per a la Intel·ligència Artificial (Data-to-AI Lab) de l’Institut Tecnològic de Massachusetts (MIT) ha estat experimentant amb GANs per resoldre un grapat de problemes socialment rellevants, que van des de transmetre -i detectar- missatges secrets i protegir vídeos amb una marca d’aigua fins a identificar anomalies i preservar la privacitat. Al DAI Lab li complau compartir alguns dels seus projectes més engrescadors amb les comunitats de l’aprenentatge automàtic i la ciència de dades amb l’esperança de generar debat i col·laboració. Amb aquesta intenció, aquest article és el primer d’una sèrie de publicacions sobre els projectes de xarxes generatives antagòniques del laboratori per a incloure mostres de la nostra feina, tutorials, comentaris i llibreries de codi obert. Planegem publicar aquests articles cada dues setmanes, alternant-los amb una sèrie de tutorials dedicats a varis dels nostres últims projectes relacionats amb GANs. Torneu aviat a la nostra pàgina de Medium i seguiu-nos a Twitter.

[1]: El debat persisteix sobre l’origen del codi que Obvious va utilitzar per produir el retrat de Belamy. El programador Robbie Barat, artista d’IA no afiliat a Obvious, és responsable, segons algunes fonts, del 90% del codi utilitzat en el projecte, tot i que originalment havia publicat el codi sota la llicència creative commons.

El ‘Pla per a la digitalització democràtica dels centres educatius‘ és, d’acord amb Xnet, el resultat d’un any de converses amb el Departament d’Educació amb l’objectiu d’impulsar una digitalització democràtica de les escoles. La proposta reclama que la comunitat educativa tingui el control de les pròpies dades, que la privacitat quedi garantida, que s’impulsi la capacitació digital puntera i l’ús de programari lliure. A diferència de les eines de Microsoft i Google, el programari lliure, a més de ser gratuït, permet a la comunitat de programadors accedir al codi font per tal d’auditar quines dades s’emmagatzemen, l’ús que se’n fa d’aquestes i si existeixen riscos de privacitat o seguretat per als estudiants.

“Hem de denunciar una submissió innecessària a les pressions corporatives tant dels qui volen afavorir el monocultiu de multinacionals com Google i el seu G Suite for Education, com dels qui tenen interessos clientelars amb els diversos Departaments i volen impedir la diversitat i una digitalització que permeti florir més innovació a Catalunya i més llocs de feina que no depenguin del seu control”, diu Xnet al comunicat, on expliquen que compten amb el suport de la FaPaC (Federació d’Associacions de Mares i Pares d’Alumnes de Catalunya), l’USTEC (Sindicat de treballadores i treballadors de l’ensenyament de Catalunya) i el SEPC (Sindicat d’Estudiants dels Països Catalans).

Xnet i Maadix -companyia especialitzada en solucions de codi obert, la privacitat de les comunicacions i la seguretat de les dades per a persones sense coneixements tècnics- van plantejar una sèrie d’aplicacions adaptades a les necessitats de la comunitat educativa auditables i de codi lliure i obert. La idea del col·lectiu és “crear un cercle virtuós” actualitzant i adaptant aquestes eines, algunes de les quals poc àgils i insuficients, per tal d’afavorir eines més ètiques i transparents que G Suite. Així mateix, el Pla, que segons Xnet, només l’1% del pressupost anunciat per Educació per a la digitalització, proposa capacitar les empreses catalanes per donar resposta a les necessitats educatives sense haver de recórrer a multinacionals poc respectuoses amb la privacitat.

El canal de Filosofia i Disseny de Telegram va néixer com un quadern de notes on apuntar les nocions bàsiques sobre les quals havia de girar el curs d’introducció a la filosofia del disseny, El disseny de nosaltres mateixos, la primera edició del qual s’anava a impartir l’octubre del 2019. Però se’m en va anar de les mans. Les meres notes van convertir-se en llavors d’on van florir arguments filosòfics al voltant del disseny. I aquests arguments van empeltar-se els uns amb als altres fins a unir-se en un mateix tronc: allò que va començar en forma de meres anotacions a rajaploma havia acabat constituint l’eix central d’una lectura filosòfica del disseny. Havia nascut el llibre homònim El diseño de nosotros mismos. Una lectura filosòfica del disseny (Experimenta Libros). Un tractat que intenta traçar ponts entre dues disciplines que tradicionalment s’han donat l’esquena, quan no s’han menyspreat. Una escletxa que calia superar. Que era urgent superar. Perquè la filosofia compta amb una llarga tradició d’eines analítiques que ens permeten un millor enteniment del disseny, la seva pràctica i el seu resultat. I perquè el disseny trenca amb molts postulats filosòfics previs que es consideraven inamovibles i, si alguna cosa il·lumina la filosofia, és el qüestionament.

Aquestes notes són el record d’un viatge d’anar i tornar. Un viatge que parteix de la tecnologia i el seu ús per acabar en la tecnologia i la seva expressió, el disseny. I tornar una altra vegada. I una altra vegada. I una altra… Aquestes notes que aquí apareixen publicades s’obren també a la crítica de la tecnologia, atès que el disseny és inintel·ligible sense ella. De manera que s’ajusten millor a l’audiència de La Tecnòloga, a qui m’agradaria agrair els seus esforços i ànims incansables per a la seva publicació. De fet, al canal de Telegram s’entén el disseny com l’expressió de la tecnologia, entre altres coses. I és que el disseny sense tecnologia deixa de ser-ho per ser una altra cosa, un mal record de l’artesania. Així que allí es parla ara molt sobre tecnologia. És el viatge de tornada…

Un viatge de tornada també a una antiga passió meva, l’ètica. Perquè en aquesta selecció que es presenta ara apareixen algunes anotacions sobre els avanços de la intel·ligència artificial (IA), la biotecnologia, el reconeixement facial… i com aquestes tecnologies estan començant a despertar fantasmes ètics que crèiem superats. I, el més interessant, és que es proposa una solució.

Una altra cosa és que ningú en faci cas.

Sobre l’autor:

Luis Montero va néixer el 65. Va estudiar Filosofia a la UNED i Publicitat a la Complutense. Ha estat guia turístic, creatiu publicitari i consultor estratègic. Ha viscut a Madrid, Nova York, Londres, Frankfurt, Marràqueix, Benarés i ara a Palma. Ha escrit les novel·les de ciència-ficció Artrópodos, Feliz Año Nuevo i Clon i els assajos sobre ontotecnologia Mundo-hecho i Dejad que las máquinas vengan a mí. D’aquí a dues setmanes apareix El diseño de nosotros mismos. Una lectura filosòfica del disseny. Llibre que complementa i aprofundeix en algunes de les notes aquí publicades. A més ha publicat en diversos mitjans, La Tecnòloga entre ells, on va aparèixer el diàleg D’humans, màquines i altres éssers que senten. Últimament procura gaudir de la vida i anar amb bicicleta.

Podeu llegir aquest article en versió original (castellà) en aquest enllaç.

Notes sobre tecnologia (sel·lecció de l’autor)

1.- La discussió sobre l’ètica de les IAs està fatal enfocada. Tot déu tem que ens matin quan el que havíem de témer és que no ens matin. Com a espècie històricament hem demostrat molt baixa tolerància als exterminis massius però altíssima a les formes de tirania que mantenen la vida, per dolentes que siguin les seves condicions.

2.- Hi ha un fons polític efecte de la producció tecnològica de la realitat sobre el qual es demanen respostes ètiques.

2.1.- Es pretén buscar una bona vida en un entorn polític que ignora –quan no impossibilita– aquesta bona vida (al contrari del que succeïa en, per exemple, Aristòtil, l’ètica del qual també està alçada sobre un fons polític que la sustentava i feia possible; però, potser al contrari del que passa ara, aquella política sustentava l’ètica dels qui vivien les condicions polítiques d’Aristòtil –l’home propietari i, per tant, lliure– i no de la majoria. Aquella ètica estava igual de segrestada, però l’hem romantitzat. Per què l’hem romantitzat? A part de l’argument d’autoritat -ei, que és Aristòtil!-, hi ha la contradicció entre aquella ètica i la política que la feia possible i la relació entre la nostra política i la impossibilitat de l’ètica). L’ètica pateix un segrest, el segrest de la política, que la redueix a la redempció personal dels actes i les seves conseqüències. La vida es redueix a cadascun dels actes, a la seva suma potser, però una suma que no té un resultat final o el resultat final del qual es limita a l’enumeració dels actes, com aquesta passada de diapositives mítica que en diuen avantsala de la mort. És una vida estreta, algebraica. De l’ètica reduïda a les conseqüències dels actes no resulta una vida bona. Una vida es compon d’actes, sí, però no només. I ni tan sols els actes han de ser el component fonamental: en aquest cas algú impedit a realitzar algun acte sigui per discapacitat o per tancament no podria qualificar-se com a capaç de viure una vida plena. Aquí el tot és major que la suma de les parts. Gairebé fins i tot es podria dir que d’aquesta reducció o segrest ni tan sols resulta una vida.

La teleologia utilitarista és peanuts davant la teleologia aristotèlica. L’ètica d’aquest no tractava d’avaluar un acte concret sinó aixecar una vida.

2.2.- Per això el problema del disseny és més polític que ètic. O dit d’una altra manera: la producció tecnològica de la realitat és una estructura política i una ètica no pot ser més que un sistema. I un sistema no pot anar a contracorrent de l’estructura que el suporta. El sistema no pot negar l’estructura que el sosté.

2.3.- I, no obstant això, la generalitat –que no abstracció– de l’imperatiu kantià allunya tantíssim allò moral de les nostres vides, de qualsevol vida, que és impracticable per inaplicable. Si el conseqüencialisme es dissol en la immediatesa fins a perdre de vista aquest horitzó que és la vida, el kantianisme funciona si, al contrari, la vida se subjuga i dissol en aquest sistema reglat. I amb aquesta dissolució es perd la vida. També.

De fet, i com apunto a Dejad que las máquinas vengan a mí, la tecnologia –i per tant el procés de producció industrial de la realitat– parteix del que allí anomeno «error metafísic» perquè tota màquina –i més les IA– és kantiana per definició: porta incrustada en si la definició del món en el qual opera, l’ontologia. Així doncs sobre aquest fons kantià es pretén pensar una ètica que possibiliti una vida bona i al mateix temps estigui subjecta a aquest teixit legiforme kantià de la tecnologia.

2.4.- En aquest sentit de l’acceptació del polític com a substrat sobre el qual floreix –l’avui tan de moda flourish saxó– per ètic s’entén el ressorgir de l’anomenada ètica de les virtuts. L’ètic resideix en el caràcter del subjecte que viu privilegiat pel polític. Tal com succeïa amb Aristòtil, qui podia atribuir al caràcter –i per tant al subjecte– les virtuts morals, virtuts morals que partien d’un i revertien en un, entre altres coses perquè l’altre que també disposava de caràcter era igual que l’u, això és, estava en la mateixa situació política. Però aleshores com ara aquesta situació no sempre és compartida per tots. De fet, gairebé mai. Si bé aquestes ètiques de la virtut prenen constància dels diferents caràcters de cadascun de nosaltres suposen que tots partim d’una mateixa situació política des de la qual la distància i dificultats per a arribar a l’acte moral és el mateix.

3.- Davant les crítiques estereotipades dels perfils més conservadors al canvi en l’espai públic, abans solia dir mig de broma mig de debò que no és que ara estiguem pitjor educats, és que tenim més oportunitats de molestar. I moltes d’aquestes oportunitats són causades per objectes de disseny (altaveus sense fils, envasos portàtils, vehicles elèctrics omnipresents, etc.). Molts dels problemes que genera el disseny no són tant existencials –que requereixen solucions ètiques– com de convivència –que requereixen una reformulació d’allò que significa viure en comunitat–. L’educació en la seva accepció disciplinària, no pedagògica, se’ns ha fet gran. Cosa que no està malament i per la qual hem sospirat en innúmeres ocasions per la cosa hipòcrita que hi havia darrere de la salutació desapegada, però que ara ens enfronta a uns mores (sí, l’avantsala d’allò moral) que no sabem redefinir sense recaure en una moralitat de nou castradora. De sobte el xaval que escolta trap a tot volum a la plaça ens ha retratat a tots.

I no ens agrada com sortim a la foto.

3.1.- La convivència no es basava tant en el costum com en l’acceptació d’aquest costum. El disseny, gran productor d’objectes que fan fallida i inhibeixen aquesta convivència o, almenys, la qüestionen, podria produir el benèfic efecte insospitat d’obligar les comunitats a haver de negociar les pautes de convivència amb cada nou objecte que la desequilibra. Però aquí s’anticipen dos problemes: d’una banda la incapacitat de la comunitat d’articular aquestes negociacions –incapacitat que explica l’acceptació submisa al costum– i per una altra la curtíssima shell life que imposa el mercat a la producció de la realitat. Encara que el primer problema no es donés i la societat fos capaç de negociar al mateix temps que apareixen nous objectes desavinents –que amenacen la convivència–, la creixent velocitat d’aparició d’aquests objectes, que no és d’estranyar que es veiés impulsada per aquesta capacitat d’acceptació, ja que l’objecte de disseny ha de xocar per a no ser fons, aquesta creixent velocitat empenyeria a la societat cap a dos extrems, tots dos extenuants però per diferents raons. O bé la comunitat es convertiria únicament en l’espai de la negociació, una negociació eterna i accelerada donada l’aparició eterna i accelerada d’objectes que, al seu torn, es veiés impedida a acceptar aquests objectes per falta de temps, tot aquest dedicat a una esgotadora negociació. O, a l’extrem oposat, que enviés a pastar fang l’educació i, amb aquesta, la convivència.

Que és on sembla que estem. O cap a on ens dirigim.

3.2.- Però amb una diferència. Aquesta negació de la negociació –i per tant del canvi: no oblidem que la història de la humanitat és la història de la negociació per a l’acceptació del canvi, un canvi que ha comportat 25 segles a occident perquè acabem aquí– no part d’una decisió voluntària dels membres de la comunitat –que és l’òptim buscat quan des de la tradició es critica el costum: aquell denunciar l’educació com un sistema de control i coerció– sinó que és una condició exògena a la comunitat a la qual no sap reaccionar. A la qual no pot reaccionar. Perquè, ja se sap, sense negociació no hi ha acceptació.

3.3.- Si Thatcher va dir «No existeix la societat, existeix l’individu», avui podríem afirmar «No existeixen societat ni individu, existeix l’objecte».

4.- Abunden –o comencen a abundar– els llibres de tecnòlegs i dissenyadors proposant solucions ètiques per a la tecnologia i el disseny. I a mi sempre em xoquen. I no sols perquè em sembla que la solució ètica no pot venir de la part que genera el problema, ningú té aquesta equanimitat –ni tan sols Moore quan afirmava que en tot acte hi ha un punt de vista objectiu, que és el de l’altre afectat… que és cert que n’hi ha, però pretendre que el patró moral sigui aquest és pretendre que siguem sants: no sempre puc actuar amb la mirada de l’altre, entre altres coses perquè desconec la seva mirada, és impenetrable–, sinó perquè aquests llibres de tecnòlegs i dissenyadors escrivint ètiques de tecnologia i disseny em sonen a exercici de capellanets. Són llibres en certa manera redemptors. Un «va, ànim, nois, que no som tan dolents, que podem fer-ho bé», potser necessari, però que té molt poc a veure amb l’ètica, té a veure amb el consol –un consol injust, perquè el tecnòleg i el dissenyador estan en un espai de poder, i no sols polític–.

4.1.- Però no em xoquen per això, em xoquen per alguna cosa més densa. El disseny és un exercici de creació. I els discursos redemptors ho són precisament perquè tot exercici de creació és fallit. I vaig amb un exemple més gran. No hi ha creador més gran que déu, que en la seva teoria ho ha fet tot. Bé, acceptem-la per un segon i com a experiment mental. Si ho ha fet tot, per què ens ha d’enviar un redemptor (que sempre ens imposa una moral, per cert)? Perquè la creació és imperfecta i hem d’ajustar-nos a aquest patró moral per a salvar-nos. Hi ha salvació condicionada, i només condicionada. La salvació és un condicional fort, si i només si. Però per als qui no tenim moltes ganes de salvar-nos, perquè tampoc pensem que calgui salvar-nos de res, és a dir, per als qui no pertanyem al marc, aquesta salvació coercitiva en realitat no manifesta una altra cosa que la imperfecció ontològica d’allò creat i, per tant, del creador. El tecnòleg o el dissenyador ficat a la pell de l’ètic ocupa per mi aquest espai. En comptes de mirar el problema primer, el problema fonamental del disseny, intenta excusar-lo amb una ètica. Com les religions, que per salvar la creació condemnen a mitja humanitat (d’aquí el magnífic problema de les teodicees, que com a exercici són precioses, però insalvables), el tecnòleg/dissenyador-ètic, per a salvar la disciplina condemna l’honestedat intel·lectual.

4.2.- Convé desconfiar sempre dels tractats ètics escrits a favor del P&L [‘profit and loss‘; en català, pèrdues i guanys] de qui els escriu. Ja sigui de capellans explicant que bona és la catequesi per la moral o de tecnòlegs i dissenyadors explicant que bones són les pràctiques per a la consecució de l’objectiu que li demana el client.

5.- Si la moral tingués una base biològica que depengués de la morfologia cerebral, com sí que succeeix amb la cognició (d’entrada només percebem aquells estímuls que el nostre aparell cognitiu percep com a fenòmens, que no són més que una mostra ínfima del total de possibles estímuls que produeix el món), llavors, deia, podríem disposar d’alguna cosa així com una moralitat augmentada. I no em refereixo a comptar amb una base de dades de casos resolts o no, no amb programes per a desenvolupar la lògica inherent a un arbre de decisions, per exemple, sinó a ampliar les fonts dels nostres sentiments morals més enllà de les nostres fisiologies-cossos. Poder, per exemple, participar dels sentiments morals d’un altre. Un dispositiu que te l’enganxes a l’orella, alguna cosa així com un audiòfon, que t’oferís la visió moral d’una tercera persona en una determinada situació. Alguna cosa així com aquell imperatiu d’objectivitat –davant tota decisió moral sempre hem de tenir en compte la perspectiva objectiva, exterior a nosaltres, que dictaminava Moore–, però generat per un dispositiu.

Cosa que em fa pensar que aquest dispositiu ja existeix, és la plaça del poble. On una comunitat vivia els seus mores compartits.

No feia falta tecnologia, sinó convivència.

Però potser aquesta última sigui una sortida massa fàcil. És que la plaça pública no és una forma de tecnologia? Més enllà que sigui tecnologia o no, que és una disquisició que ara no és necessària, el que sí que és és el lloc que propicia la convivència. Arribats en aquest punt apareix la pregunta: podríem crear altres dispositius que ampliessin el registre-sentiment moral, ja fos mitjançant l’ampliació de la convivència, la seva simulació o representació, o qualsevol altra manera d’obrir-nos, de treure’ns del nostre punt de vista moral subjectiu?

Ho acceptaríem?

6.- La inundació de notícies que anuncien capacitats tecnològiques miraculoses deixen poc espai per a la scifi especulativa més enllà de la política. I és tan aclaparador que gairebé l’única lectura possible és la distopia.

I la distopia, la falta de relats de cels oberts i una certa esperança, ens està matant. I no, no parlo d’aquests relats prefabricats per la indústria de producció del tot, com el disseny de futurs, Hollywood o els casos d’èxit de les consultores estratègiques –que en el fons són tres formes del mateix– sinó de les possibilitats de llegir-nos a nosaltres mateixos de formes alternatives, oberturistes, esplendoroses.

Una inundació que ens arriba en el pitjor moment –totes les crisis sempre arriben en el pitjor moment–, quan a més sembla que a força de narrar-ho tot hem esgotat el diccionari i no fem sinó parlotejar.

Potser, i aquí ho uneixo amb tecnologia i disseny, té a veure amb la pèrdua de pes il·locutiu del llenguatge enfront de la capacitat realitzativa del disseny i la tecnologia. M’explico, una mica. Se suposava des d’Austin que hi havia enunciats que tenien un impacte directe en la realitat, que eren com els manaments d’un déu: es complien. «Queda inaugurat aquest pantà!» significava que efectivament aquest pantà havia estat inaugurat –òbviament la referència franquista és a posta, el feixisme és extremadament il·locutiu–. Aquest efecte era allò perlocutiu de l’acte il·locutiu. El perlocutiu és el que succeïa en el món quan s’emetia un enunciat il·locutiu. Bé, perquè el disseny i la tecnologia poden entendre’s com a actes perlocutius que no necessiten actes il·locutius. I si l’economia regeix els usos del llenguatge, aquesta no-necessitat d’enunciats és un estalvi magnífic que semblaria fer l’acte lingüístic superflu.

7.- Una prova, o potser un mer delator, de la rebolcada causal provocada per la tecnologia i esperonada pel disseny –on els efectes són les causes– és que el procés de denominació d’un nou aparell, artefacte, disciplina o eina moltes vegades ve derivat d’un efecte. El GUI es diu així pel que produeix: la interacció amb objectes és més immediata que la línia de comandos. Chromecast es diu així pel que produeix: emetre a la pantalla de la tele allò reproduït a Chrome. UX s’acronomitza així pel que produeix: una vivència en l’usuari. Els exemples són moltíssims, i és una tendència que ve de lluny: el telèfon o el rentavaixella ja duien impresa aquesta manera d’atribució –atribució que potser també respon a l’entorn domèstic on es despleguen aquests objectes; almenys al principi, ja que ara són sobretot d’ús professional (encara que aquesta diferència ja gairebé manca de sentit)–. En aquest sentit el disseny és una excepció, quasi res del que esmentem és anomenat per l’efecte que produeix. La relació entre el nom i la cosa anomenada poques vegades era identificable. Fins i tot tirant d’etimologies, encara que retrocedim al llatí o al grec, arriba un punt que aquesta relació nom-cosa anomenada apareix com a aleatòria. Indesxifrable. No així en el disseny. És aquell remetre de Heidegger a Ésser i temps propi de tota eina tecnològica.

7.1.- En certa manera l’efecte és el sentit (l’efecte que hauria de ser contingent passa així a universal).

7.2.- Aquest universal impedeix la resignació del dissenyat, acció política proposada moltes vegades com a forma de reapropiació. Exemples d’aquestes propostes n’hi ha molts.

7.3.- No obstant això, qualsevol reapropiació és impossible quan no hi ha cap distància en la relació entre significant i significat i quan aquest, a més, s’ha convertit en universal, sempre el mateix.

8.- La intel·ligència respon a la vida i no al contrari. El mateix hauria de succeir amb la IA, si no volem que es giri contra la vida. Ara bé, per a això la IA hauria d’estar viva. I això és poc probable –i no només perquè estem més lluny encara d’emular la vida que d’emular la intel·ligència–.

9.- L’impacte de la quarantena en la interintimitat. Avui pensava que, si la quarantena té alguna virtut, és que ens permet centrar-nos a cuidar als qui són a prop, als qui estem més pròxims. Els qui a Dejad que las máquinas vengan a mí vaig definir com l’altre-jo, aquells que estan en aquest costat del pal del selfie. L’excepcionalitat de la situació ens ha fet conscients de la importància de les cures d’aquests altre-jo. Però aquesta proximitat amb l’altre-jo, sobre la qual es construeix aquesta interintimitat que s’expressa en selfie comuna –el self compartit com a expressió visual de l’altre-jo–, no és la proximitat física de la distància. El confinament de cadascun s’amplia en l’allunyament i distribució d’aquests altre-jo. És la presència absent que ens permeten les tecnologies, que per alguna cosa totes es denominen amb el prefix tele: telèfon, televisió, teleconferència… Tecnologies que ens permeten ser sense estar. És la presència absent. I avui, confinats, estem més presents-absents que mai. Quan truquem per videoconferència grupal als nostres quatre éssers més estimats. Quan ens posem d’acord en un grup de Telegram que prestarem especial atenció a algú que no està al grup perquè està en una situació delicada, sigui laboral o de salut o del que sigui. Aquesta intimitat estesa que és la interintimitat amb l’altre-jo potser també pot ser anomenada la tele-intimitat. La intimitat del fet de compartir des de la presència absent.

10.- El disseny –i la tecnologia amb aquest– parteixen d’una premissa equivocada: que un només pot habitar un món. És a dir, que la vivència està limitada al món en què es dóna aquesta vivència. El que bé pot ser cert dit de cada vivència. Però no ho és quan les vivències s’entenen com un continu no determinista. No hi ha –o no hi ha raó perquè hi sigui més enllà de la imposició d’un món produït pel disseny– per a pensar que la meva següent vivència sigui dependent del món en el qual es dóna aquesta. No hi ha un historicisme de la vivència. El confinament és una prova d’això. Qui ens hauria dit que ens passaríem sis setmanes a casa? I qui hauria dit que ens semblaria malament? No obstant això aquesta relació unívoca món-vivència que fonamenta el disseny –com a procés de producció d’aquest món i la seva vivència donat el seu caràcter fenomènic– comença a esquerdar-se.

10.1.- És tasca del disseny, si vol sobreviure a la pandèmia, en la qual s’ha demostrat com a superflu, atès que el món que proposava ha esdevingut inhabitable, a explotar aquestes noves esquerdes en si mateix per a permetre l’aparició de noves realitats. De nous mons. Trencar aquesta equació és el nou imperatiu del disseny.

10.2.- El disseny, últimament centrat en els fonaments d’aquest món previ, s’ha entossudit a bussejar en els P&L dels seus clients (els casos d’èxit sempre s’expliquen com a èxits de negoci) i morirà arrossegat per aquests mateixos P&L que ja estan morint. El disseny ha d’aprendre que el seu futur no és aquí sinó en altres llocs. A la vida. M’explico. Com altres indústries culturals, el disseny ha de buscar la seva inspiració en la resta de fenòmens culturals que l’acompanyen. Així com la música pop sempre es renova gràcies als experiments musicals de minories racialitzades o els videojocs a la reinterpretació de clàssics de la literatura, el disseny té trobar altres fonts alienes a ell mateix però que l’enriqueixin. Ha de sortir dels despatxos i els Indesigns de torn i sortir al carrer. Ha de baixar al barri si és que vol sobreviure. Hi ha, per exemple, més futur del disseny en el bombing grafiter que en els estudis de disseny estratègic, que ja fan olor de formol.

10.3.- I el mateix és aplicable a tecnologies creadores de mons com la IA, la RV [Realitat Virtual] o els videojocs.

10.4.- Però una de les raons en la diferència de cos és que la tasca del dissenyador i de l’ideo-CEO és la creació del món, però no el seu manteniment (déu, com a aclariment, és aquell que és perquè és capaç de crear el món/univers, sí, però també de mantenir-lo. En el model producció industrial de la realitat, que inclouria aquestes dues tasques: creació i manteniment, totes dues tasques apareixen com deslligades). El manteniment d’això creat encara continua estant estretament lligat al cos –d’aquí ve que els processos d’automatització i robotització estiguin centrats fonamentalment en els sectors de producció industrial del que ja hi ha: cadenes de muntatge, ERPs, etc.

10.5.- Reflexió que em porta a una altra, relacionada amb l’absència present del cos –en aquest cas el cervell– en les IAs. La tasca de la IA és la creació o el manteniment del que hi ha? De moment jo diria que és la del manteniment, entre altres coses per la no permissibilitat de fal·libilitat de la qual parlava. Però, i aquesta és una tesi que trobo interessant, perquè és fàcil preveure que si la IA intervingués en la creació de nosaltres, com a humans, no entendríem moltes vegades aquest acte com un acte creador i ho entendríem, en canvi, com un acte aleatori, resultat de l’atzar (o de la bogeria de la màquina, que és una altra forma d’atzar).

Així, per exemple, va succeir amb el famós moviment 37 de la segona partida d’AlphaGo, que tots els experts van interpretar com a aleatori, per inexplicable, però que com que es va donar dins d’un món ja creat (aquí la IA no feia altra cosa que mantenir el món que és el joc de Go), va acabar per revelar-se com a intel·ligent i, per tant, intel·ligible.

11.- Amb relació a la disjuntiva instrumentalisme vs. substancialisme d’allò tecnològic (i del disseny) nascuda a partir del que es va anomenar l’empirical turn dels 70s –quan la filosofia de la tecnologia va començar a acceptar d’una manera menys crítica la tecnologia, acceptant que era aquí per a quedar-se–, potser convindria recordar a Plató i el seu Fedre, on rebutjava l’escriptura al·legant que acabaria amb la memòria. Però l’atac no era un atac oral, era un atac escrit. Escrivia per a atacar a l’escriptura. Una vegada que Plató va decidir començar a escriure ja mai va poder deixar de fer-ho –perquè allò no tecnològic, precisament perquè deixa una petjada efímera, es perd en i per a la memòria: per això no sabem què va dir a la seva Acadèmia–. I nosaltres amb ell. Per això, en continuar escrivint definia una manera d’humà, un humà la memòria del qual potser no es veia substituïda per l’escriptura, però sí que es veuria augmentada. Un humà la memòria del qual quedaria per sempre intervinguda per l’escriptura. Que avui encara llegim a Plató ho demostra.

Les interpretacions instrumentalista vs. substancialista s’han llegit fins ara com a contraposades, com dues maneres d’entendre allò tecnològic (i el disseny), contradictoris, però en realitat conformen un mateix discurs, una dialèctica, que a força de negar-se amplien l’àmbit d’allò definit per aquest discurs, que és el tot. Aquesta és la dialèctica que descansa en la dialèctica de la filosofia de la tecnologia, que en cada nou pensar es consolida el tecnograma a la Latour i Borgmann com a continuació interessada de les seves cadenes cosmològiques (que és com denomina Latour a les tres maneres d’estar en el món que Borgmann denominaria Naturalesa, Cultura i Tecnologia):

Cosmograma -> Cultugrama -> Tecnograma

sobre el qual es construeix un món tecnologitzat al qual ja no pot renunciar, en un procés semblant al sistema que s’expandeix a força de negar-se recursivament, això que Hofstadter va anomenar gödelització. Per això quan se supera un estadi, una manera d’estar en el món, quan, per exemple, se supera el cosmograma per a endinsar-se en el culturgrama, el cosmograma pot advertir-se, però no es pot tornar a ocupar. Queda com a record, però com els records és inaprehensible. I en aquest tot estem nosaltres. El tecnograma apareix cada vegada més com més afermat i el culturgrama se’ns apareix tènue i cada cop més desvalgut. Del cosmogama no tenim ja ni notícies. Aquest tot que transformem no pot ser-ho sense la nostra pròpia transformació.

12.- Un dels atributs que distingeixen a la intel·ligència és que no comptem amb la seva infal·libilitat. De fet, tot el contrari, entenem allò intel·ligent com alguna cosa que pot o bé fallar o bé produir solucions (és cert que definir el producte de la intel·ligència com a «solucions» ja denota un biaix que rebaixa el possible intel·ligent, però perquè ens entenguem), solucions, deia, inesperades. I cap de les dues resultants ho desqualifiquen com a intel·ligent. Exemple de resultes intel·ligents fallides? Posaré un que té relació amb el disseny. Les places dures de Madrid. Aquestes places que es van dissenyar no per a la convivència, que és per al que es van dissenyar, però que sol ser estàtica, conviure requereix temps, sinó que es van dissenyar per al trànsit. Així són places sense arbres, ombres o bancs. És més, no són places, són esplanades. Solars. Terra erma. «Terra erma», com el poema de T. S. Eliot (per a qui no el conegui, és aquí). Més semblants a patis de presó, un altre espai «obert» en el qual no es conviu sinó que s’erra, com en una plaça de poble. Una solució arquitectònica intel·ligent quan allò que pretens és transformar les ciutats en espais Centres Comercials oberts, com el projecte de Gallardón per al centre de Madrid. Una solució perfecta, a més, per a l’explotació comercial d’aquestes esplanades: en totes hi cap un quiosc de Nokia, una terrassa de cafeteria o un estand de Movistar.

Però la solució va deixar de ser intel·ligent el 15M. De sobte aquella solució de plaça dura va resultar increïblement fàcil d’ocupar. Allò que estava dissenyat per al trànsit va resultar perfecte per a la immobilització. I d’aquí el doble impacte d’aquesta ocupació, perquè no sols redefinia l’espai sinó també el seu ús. Però aquest sub-ús, diguem-ne, no vol dir que la proposta de disseny no fos intel·ligent per al model de ciutat que es pretenia. És només que la ciutat en algun moment no ho va entendre així.

Això com a exemple de resulta intel·ligent fallida; perquè exemples de resultes intel·ligents que generen respostes alternatives n’hi ha moltes i són fàcils de trobar.

No obstant això, amb la IA esperem infal·libilitat. Si falla ja no és intel·ligència. I si genera solucions divergents (més enllà de la divergència pautada dins d’allò ontològic-possible d’aquesta IA) tampoc. Fet que obre dos problemes, un epistemològic a l’hora de definir què és IA; un altre ètic, a l’hora de definir com ens relacionem amb les IA.

13.- No parem de culpar a la IA de biaixos que no són sinó nostres. De miopies ontològiques que no són sinó nostres. De decisions pernicioses que no són sinó les que fa 2.500 anys que prenem. De fet la IA està a punt de convertir-se en el boc expiatori moral per a les decisions que no volem prendre. Complint així el paper de boc expiatori positiu. Es menja la culpa per a redimir-nos. Fins i tot aquesta denúncia es desploma davant d’aquest argument: en denunciar el desplaçament de la culpa no fa una altra cosa que reforçar aquest desplaçament. La nostra relació amb la IA és absolutament cristiana.

14.- «Deixeu de fer» potser és l’únic mantra ètic vàlid avui per al disseny i la tecnologia. Potser l’únic treball moralment justificat de dissenyadors i tecnòlegs sigui deixar de fer i, sobretot, convèncer als seus clients perquè no facin.

Em costa molt trobar un argument contra aquesta proposta mínimament ben fonamentada. S’admeten contribucions.

Exemple, no perfecte, però exemple:

https://techcrunch.com/2020/06/08/ibm-ends-all-facial-recognition-work-as-ceo-calls-out-bias-and-inequality/

Un altre exemple del «Deixeu de fer», però aquesta vegada des d’un lloc problemàtic: Amazon. No obstant això, és simptomàtic que les companyies de tecnologia s’autoregulin –en allò que no és altra cosa que una expressió de la seva por a les regulacions governamentals que vindran– mentre els dissenyadors continuen empenyent a fer:

https://venturebeat.com/2020/06/10/amazon-imposes-one-year-moratorium-on-police-use-of-its-facial-recognition-technology/amp/

En els anys 70, Putnam (el lògic matemàtic-filòsof) va proposar alguna cosa així com un axioma ètic, el punt mínim moral des del qual decidir actuar. Deia «Always stick to the loser», estigues sempre amb el perdedor. I encara que no sempre és fàcil saber qui és el perdedor–a Dejad que las máquinas vengan a mí explico el cas d’una persona les profundes creences catòliques de la qual feien que confongués el perdedor en el cas d’una noia violada fecundada– l’axioma encara continua ressonant dins el meu cap. Primer perquè té això d’analític formal de base kantiana, que no obliga a alguna cosa concreta sinó que és context-irrelevant. Aspira així a una certa universalitat que ho fa estrictament atractiu. Segon, i derivat d’això analític, perquè encara que no proposa solucions, aquest «stick» no és actuar, tampoc és una forma d’inacció, que sempre és una forma de suport a l’agressor. Res és tan poc equidistant com l’equidistància, que diria Benjamin dels alemanys «neutrals» davant l’ascens nazi.

Avui aquest «Deixeu de fer» reprèn aquestes virtuts de l’axioma putmanià i fa de la inacció acció. I ho fa mitjançant una inacció no equidistant. Ho fa amb la consciència clara dels perills polítics de l’objecte de disseny i tecnològic. No fer és un reforçar allò bo que encara ens queda i, al mateix temps, estar-nos amb els perdedors d’això tecnosocial que estem produïnt dissenyadors i tecnòlegs, nosaltres. Tots. Tots nosaltres.

A més, i per si no fos prou, ataca aquest dogma neoliberal que no fa reforçar privilegis de l’aprenentatge a través de l’error –recordem que només els rics poden permetre’s fallar perquè compten amb una xarxa de suport teixida amb la plusvàlua expropiada als seus treballadors (si això ha sonat marxista no us estranyi, ho és); els pobres no poden provar, perquè no té l’oportunitat de tornar-se a aixecar: com s’aixecaran una segona vegada si no poden aixecar-se una primera?–, una tesi, la de l’error com a catapulta cap a l’èxit final, derivada d’aquesta altra proposta moral de rics, el pragmatisme a la Dewey, que és extremadament nociva perquè determina que tot fer redunda en el poder establert. I ara que el poder establert està desbocat dotat d’un fer quasi-miraculós, el fer ha de parar. Ja no podem permetre’ns eslògans –tots deweyans, per cert– tipus «aprendre fent» o «narrar a través d’actes» (storydoing) perquè tot fer ens converteix en perdedors. A base de tant fer hem perdut el sentit, i el fer sense sentit és prerrogativa del tirà, com deia el nazi de Schmitt.

14.1.- Per què «Deixeu de fer»?

Al començament del segle passat la filosofia es va partir per la meitat, i no em refereixo a la segregació analítica vs. continental, que en el fons parlaven del mateix però en diferents termes, el llenguatge i allò que pot ser enunciat amb propietat, sinó al fet que la interpretació del món s’obria en dos: o llenguatge o acció. I mentre tots dos corrents van optar pel llenguatge el món, cada vegada més produït per la indústria, va optar per l’acció.

I l’acció, gràcies a la incorporació dels avanços lingüístics de l’analítica, va acabar per devorar al llenguatge. La programació ha fet saltar per l’aire tot allò pensat sobre el llenguatge perquè l’ha convertit en performatiu. Tot llenguatge de programació és performatiu. Per tèlic.

Fa 120 anys que pensem allò que no és. Allò que no tocava.

Per això avui toca «Deixar de fer» i començar a pensar això que fem.

La pandèmia de la Covid-19 ha posat sobre la taula la necessitat d’anticipar-se als brots epidèmics per fer més eficients els processos de contenció i mitigació. Amb aquest objectiu, Catalunya ha vist néixer aquest dijous el primer projecte per a la prevenció d’epidèmies basat en intel·ligència artificial (IA) i l’anàlisi de dades massives (Big Data).

L’observatori epidemiològic, impulsat pel Govern de la mà d’institucions mèdiques com l’Hospital Germans Trias i Pujol, operadores telefòniques, i centres educatius com la Universitat de Girona i la Rovira i Virgili, vol estudiar la propagació d’epidèmies a través de l’anàlisi de dades del cens, epidemiològiques, meteorològiques i mediambientals i d’algunes companyies telefòniques per crear “millors models predictius”, que ajudaran a elaborar models matemàtics i a dissenyar estratègies per preveure i mitigar la propagació d’epidèmies presents i futures.

Segons una nota de premsa de la Generalitat, en primer lloc es procedirà al creuament de les dades de forma agregada i anonimitzada -en cap cas implicarà traçabilitat o identificació de les persones-, i a l’anàlisi i extensió de models matemàtics per comparar i predir patrons específics d’epidèmies, a partir de la grip i la Covid-19. Això permetrà definir un primer model epidemiològic al qual posteriorment s’aplicaran tècniques i algoritmes d’aprenentatge automàtic (Machine Learning) per millorar-lo. Finalment, es treballarà en la construcció d’una eina capaç d’integrar les diferents fonts de dades de manera automàtica que permetrà el monitoratge de l’evolució d’una epidèmia i crear un sistema de suport a les decisions obert per a les comunitats científica i sanitària.

“Respecte a la informació de caràcter personal”

La mateixa nota subratlla que “una de les prioritats d’aquest Observatori és definir un model de tractament de dades que garanteixi plenament el respecte a la informació de caràcter personal per protegir la intimitat i privacitat dels ciutadans”. “En aquest sentit -continua el comunicat-, per tal d’estudiar la transmissió del virus, es treballarà amb dades agregades epidemiològiques i de mobilitat, sempre agregades i anonimitzades, seguint les recomanacions i millors pràctiques del Comitè Europeu de Protecció de Dades (CEPD) i del Departament de Salut.”

L’Observatori s’ubicarà a l’Hospital Germans Trias i Pujol (HGTiP) i comptarà amb la coordinació científica del doctor Bonaventura Clotet, cap del Servei de Malalties Infeccioses de l’HGTiP i president de la Fundació Lluita contra la Sida (FLS). La coordinació tècnica anirà a càrrec del Center for Innovation in Data tech and Artificial Intelligence (CIDAI), creat en el marc de l’Estratègia en Intel·ligència Artificial del Govern de Catalunya, Catalonia.AI.

Aquesta iniciativa publicoprivada suma els esforços de la Generalitat de Catalunya, a través del Departament de Polítiques Digitals i Administració Pública i el Departament de Salut; institucions mèdiques i de salut (Hospital Germans Trias i Pujol i Fundació Lluita contra la Sida); centres d’innovació i investigació tecnològica i grups de recerca (CIDAI, Eurecat, Barcelona Supercomputing Center, Universitat Rovira i Virgili i Universitat de Girona) i el Mobile World Capital Barcelona. A més, el projecte compta amb la col·laboració de la iniciativa GSMA AI for Impact.

La iniciativa neix del Govern i la Universitat de Girona (UdG) i pren la forma d’una càtedra amb seu a la facultat. Segons una nota de la Generalitat, l’Observatori té la missió d’estudiar els impactes ètics i legals de la implantació de la IA en la vida diària, de vetllar perquè la tecnologia s’apliqui de manera segura i justa, d’establir unes directrius ètiques i, en definitiva, de desenvolupar al país “una intel·ligència artificial ètica i confiable”. Per aconseguir-ho, l’observatori vol analitzar l’evolució del desenvolupament de la IA a Catalunya, impulsar jornades i tallers per debatre sobre ètica, regulació i IA, promoure la conscienciació ciutadana entorn la IA i les decisions automatitzades i crear un consell assessor format per experts d’àmbits diversos -acadèmic, tecnològic, humanístic, legal, econòmic, etc.

La iniciativa compta amb un pressupost de 250.000 euros per al període 2020–2022, finançats principalment pel Departament de Polítiques Digitals en el marc de l’estratègia Catalonia.AI, l’Estratègia d’Intel·ligència Artificial de Catalunya, aprovada el 18 de febrer, i el pla estratègic de la Universitat de Girona ‘2030: La suma d’Intel·ligències’, que vol buscar el millor encaix de la intel·ligència artificial amb la intel·ligència natural i la intel·ligència col·lectiva.

El tret de sortida de l’Observatori l’han donat aquest matí el conseller de Polítiques Digitals, Jordi Puigneró, i el rector de la UdG, Quim Salvi, entre altres representants del Govern i la universitat, que han presentat el nou organisme en un acte telemàtic amb la intervenció de Karma Peiró i de la professora d’Investigació de l’Institut de Robòtica (CSIC-UPC) i escriptora Carme Torras.

La necessitat d’una mirada ètica

Els intents de regular la intel·ligència artificial des d’una mirada ètica persegueixen l’evolució tecnològica, però de moment no l’atrapen. El febrer, la presidenta de la Comissió Europea (CE), Ursula Von der Leyen, va presentar un pla per regular la IA i recuperar la sobirania digital davant els gegants tecnològics, tot i que les veus crítiques li van retreure poca concreció. A l’abril del 2019, un grup d’experts d’alt nivell de la CE havia fet públiques unes Directrius Ètiques per a una IA Confiable (Ethics Guidelines for Trustworthy AI). Poc després, el professor de filosofia de la Universitat de Mainz (Alemanya) Thomas Metzinger, que va formar part del grup d’experts, va denunciar al diari Der Tagesspiegel que “el relat de la Intel·ligència Artificial confiable pretén eixamplar els mercats futurs i utilitzar els debats sobre Ètica com un bell decorat públic per a una estratègia d’inversió a gran escala”. Per això, cal prendre consciència que la revisió ètica de la IA necessita molt més que una declaració de bones intencions.

La Covid-19 ha omplert Internet d’ofertes de cures, proves de diagnòstic, respiradors i equips de protecció personal a preus desorbitats, productes teòricament miraculosos i vacunes falses. Segons una recerca de l’Australian National University, que a l’abril va investigar vint mercats clandestins d’Internet, s’hi ha arribat a vendre un fals vaccí per 24.598 dòlars, distribuït des dels Estats Units, mentre el preu mitjà d’aquest producte no baixa dels 575. D’acord amb l’estudi, es tracta de substàncies “probablement robades o distribuïdes il·legalment des de laboratoris d’assaig amb animals o humans o, fins i tot, amb pacients recuperats del coronavirus”. 

Productes com aquests s’han comercialitzat al llarg del confinament al web fosc (en anglès, dark web), on habitualment hi ha lloc per a la venda il·legal d’armes, drogues, material pedòfil, targetes de crèdit robades, programari maliciós, documents falsificats i tota mena d’activitats que defugen la llei. Els abismes d’Internet no són accessibles des d’un navegador normal i, per a entrar, cal un programari especial. Un exemple és la xarxa d’anonimat TOR (The Onion Router; o, en català, L’Enrutador Ceba), composta per milers de servidors i estructurada en forma de capes, que fa pràcticament impossible identificar els usuaris. “Allò que et dona el web fosc és un anonimat quasi absolut”, expliquen fonts de l’Agència de Ciberseguretat de Catalunya. Tot això ho converteix en un espai molt atractiu per als cibercriminals.

Les dades de The Tor Project, que és l’entitat d’administració de la xarxa Tor, evidencien un creixement molt significatiu d’usuaris durant la quarantena. Així, si el dia previ a l’anunci del decret d’alarma, el 12 de març, es van registrar a Espanya 23.703 usuaris, el 7 de maig es van assolir els 43.495; o sigui, que el trànsit ha arribat a créixer més d’un 180% durant el confinament. Des d’aleshores, l’activitat ha minvat lleugerament, tot i que a l’últim mes s’han continuat veient xifres elevades: 38.169 usuaris l’11 de juny. Un increment que no té res a veure amb l’any passat, que amb prou feines va arribar als 29.481 usuaris.

Espanya, el sisè estat més atacat per amenaces relacionades amb la Covid-19

El Covid-19 també s’ha popularitzat als fòrums de ciberdelinqüents especialitzats en el robatori de dades. Segons l’empresa de ciberseguretat Bitdefender, Espanya s’ha convertit en el sisè país més atacat per amenaces relacionades amb la Covid-19. Al març, les ciberamenaces vinculades amb la crisi ja s’havien multiplicat per cinc, i a l’abril el creixement va ser encara major. Una investigació de la consultora Digital Shadows mostra un debat en un xat de la dark web sobre “Com treure el màxim partit de la quarantena”. 

Segons l’Agència de Ciberseguretat de Catalunya, l’activitat criminal que més ha crescut és la venda de credencials d’accés a entorns corporatius. Amb la implantació del teletreball a correcuita s’ha ampliat la bretxa de seguretat informàtica als sectors menys acostumats a aquesta modalitat laboral: “Ara els usuaris naveguen molt més i es compten moltes més víctimes de pesca per correu electrònic (phishing) utilitzant d’esquer la Covid-19”, explica una font de l’agència. “Algunes contrasenyes acaben sent venudes al web fosc i algú altre les compra per demanar rescats mentre altres amenacen la víctima amb filtrar la informació”, hi afegeix. 

La Covid-19 també ha donat un impuls sense precedents a la pederàstia. Un estudi de l’Europol sobre cibercrim durant la pandèmia alerta que l’intercanvi de material pedòfil va disparar-se un 25% durant l’estat d’alarma, arribant a les 21.100 descàrregues entre el 17 i el 24 de març. Dues setmanes després, la Guàrdia Civil detectà a Espanya un nou rècord de la circulació de vídeos pedòfils quan l’augment va assolir el 507% durant l’estat d’alarma, segons una investigació de la Unitat Central Operativa (UCO) de la Guàrdia Civil que va fer públic El País i tal com ha pogut confirmar La Tecnòloga. L’Europol alerta que els pedòfils han aprofitat la pandèmia per buscar noves víctimes i reprodueix alguns dels seus missatges: “Hola, amb aquesta quarantena creieu que hi haurà més nens a Omegle [un lloc web per a xatejar amb persones anònimes] traient ‘packs’ [de fotografies íntimes]?”, es demana algú en un fòrum d’Internet, mentre algú altre encara va més enllà: “Imagina estar tancat a casa en tot moment. Aquells que tenen un fill a casa o els que passen més temps amb els seus fills, jajaja, m’agradaria tenir aquesta situació”. 

El confinament també ha provocat un augment de visites al web fosc per comprar droga. Amb la restricció dels moviments, els consumidors l’han anat a buscar al mercat negre d’Internet. Com ho reflecteix Digital Shadows, un venedor de cànnabis promet un bon servei als seus clients oferint-los “uns cogolls de laboratori densos i ensucrats, enviats a domicili per un venedor dedicat del web fosc”.

L’increment de la venda de productes relacionats amb la Covid-19 al web fosc s’explica en part per la interrupció de l’activitat habitual dels ciberdelinqüents. Digital Shadows reprodueix les preocupacions d’alguns usuaris que temen els efectes de la pandèmia sobre els seus models de negoci. En un fòrum del web fosc, algú s’hi anuncia: “Un vell busca feina”. A la mateixa publicació explica que treballava des del 2012 en el frau orientat al turisme, hotels, vols i excursions, i hi afegeix: “(…) però des que va començar l’estafa del coronavirus m’he quedat indefinidament sense ingressos”. 

El web fosc i la llibertat d’expressió

Perseguir els delinqüents del web fosc és una cursa d’obstacles quan l’anonimat s’interposa entre aquests i la policia, que normalment disposa de pocs recursos si no compta amb l’ajuda d’organismes internacionals com l’Europol o empreses privades de seguretat. Per això, governs de tot el món han intentat prohibir els servidors xifrats; un fet al qual s’hi oposen activistes, alertadors, periodistes o persones que, simplement, volen evitar que les dades de navegació caiguin en mans dels governs o les grans corporacions: “La privacitat sempre és prioritària. És un dret que ens permet desenvolupar les nostres idees, saber qui som i com volem presentar-nos al món”, remarcava l’enginyera informàtica Silvia Puglisi, de The Tor Project, en una entrevista recent a La Tecnòloga.

Així, en un país amb llibertats restringides, utilitzar el web fosc permet esquivar la censura, tot i que, segons l’investigador especialitzat en aquest àmbit Eric Jardine, els navegadors anònims també s’han popularitzat a les democràcies liberals arran d’una creixent preocupació per la privacitat. De fet, el pic més alt d’usuaris de Tor va coincidir amb l’inici de les revelacions sobre l’espionatge massiu de l’Agència de Seguretat Nacional (NSA) d’Edward Snowden, passant en tan sols un mes d’uns 800 mil usuaris a gairebé sis milions, el 18 de setembre del 2013. 

Silvia Puglisi (Itàlia, 1983) és enginyera informàtica i va estrenar-se a Google (Dublín), on va treballar cinc anys. Però si el punt de partida va ser el gegant tecnològic que ho sap quasi tot, ha acabat formant part d’una organització clau per a la defensa de la privacitat a Internet, The Tor Project, on treballa des de fa quatre anys. I, entremig, ha fet feina al Fab Lab Barcelona -una xarxa col·laborativa global per a la recerca- i s’ha doctorat a la Universitat Politècnica de Catalunya (UPC).

The Tor Project és l’entitat sense ànim de lucre que gestiona Tor, acrònim de The Onion Router (en català, l’Enrutador Ceba), que és el programari de codi obert que permet navegar anònimament per la Xarxa. Tal com explica Edward Snowden al llibre Permanent Record, Tor és una creació del govern dels Estats Units que es va acabar convertint en un dels pocs escuts eficaços contra la vigilància estatal, basat en un model de comunitat cooperativa que depèn de voluntaris experts en tecnologia de tot el món que gestionen els seus propis servidors des dels seus soterranis, golfes i garatges: “Gairebé cap dels servidors Tor -anomenats ‘capes’- coneix la identitat de l’origen del tràfic, ni té cap informació per identificar-lo. A més, en una autèntica jugada mestra, l’únic servidor Tor que coneix aquest origen (el primer de la cadena) no sap on es dirigeix el tràfic”.

Però la xarxa d’anonimització més utilitzada del món no ha evitat els danys col·laterals de la pandèmia i, recentment, ha patit una dràstica reducció de la plantilla per la caiguda de les donacions i la congelació de les subvencions. A més, Puglisi i altres companys seus es troben en ERTO fins el desembre.

A què es dedica The Tor Project?

El Projecte Tor és una entitat d’administració de la xarxa Tor. No intervé en allò que passa a la xarxa en si, perquè aquesta no és controlada. El projecte s’ocupa, sobretot, de desenvolupar un protocol, o sigui, allò que defineix la manera de navegar per Internet. El resultat és el navegador Tor. 

Quines implicacions té per a la nostra societat l’existència d’una xarxa com Tor? Què significa l’eslògan del Projecte Tor ‘Take back the Internet’?

El principal paper de Tor és ajudar a persones en situació de censura o risc de censura a l’hora de fer alguna cosa tan simple com llegir el diari o buscar informació. Per exemple, en alguns països, buscar a Internet sobre com avortar pot ser molt perillós. Per altra banda, res justifica que, quan llegeixes un diari, cinquanta empreses mirin com es mou el teu ratolí a la pantalla. 

Quina rellevància té l’activitat del Projecte Tor per a la supervivència de la xarxa Tor: podria existir una sense l’altra, només amb el suport i treball de voluntaris?

L’objectiu del Projecte Tor és el desenvolupament del protocol, la resolució dels problemes del codi i el manteniment d’aquest codi. Però la xarxa és mantinguda sobretot per voluntaris. Jo mateixa tinc un node i la gent l’utilitza per accedir a la xarxa. La xarxa en si és, d’alguna manera, autònoma del projecte. De fet, hi ha molts projectes de codi lliure que es desenvolupen íntegrament per voluntaris. És el cas de Debian, una distribució de Linux. En altres casos, hi ha empreses o organitzacions al darrere.

Com pot una xarxa que depèn directament del treball d’una organització tenir garanties de ser una xarxa lliure i independent?

Per començar, no controlem la xarxa. Qualsevol persona pot posar un node a la xarxa. En segon lloc, el codi del programari és obert i molta gent el llegeix. Quan tu utilitzes el navegador Tor o afegeixes un node a la xarxa, pots confiar que molta gent accedeix i revisa aquest codi, tal com funciona una distribució Linux de codi lliure. 

Actualment, el Projecte Tor tenia fins a 35 persones treballant en el nucli del seu servei, però l’alerta sanitària del coronavirus ha forçat l’organització a acomiadar a 13 persones, que és un terç de la plantilla, per a poder continuar endavant. Com afectarà això a Tor? Quines conseqüències per a la privacitat pot tenir?

Seguim treballant com abans i el protocol es manté igual. Tot i això, ara som menys gent i la resolució d’alguns problemes pot ser més lenta. Per sort, tenim una comunitat molt activa de persones que no treballen directament al Projecte Tor, però que investiguen sobre el protocol, o bé simplement fan traduccions, o bé fan desenvolupaments durant el seu temps lliure. Són molts els voluntaris que sostenen el projecte. El Projecte Tor funciona d’una manera similar a organitzacions com Indymedia, que a finals dels anys 90 va impulsar un mitjà de comunicació més independent i autosostenible. Molts dels qui en formaven part ara són a Tor. 

Esdeveniments com la primavera àrab o les revelacions de Snowden, el 2013, van disparar l’èxit de Tor. El pic més alt d’usuaris va coincidir amb l’inici de les revelacions sobre l’espionatge massiu de la NSA, passant de menys de 800 mil usuaris a gairebé 6 milions en tan sols un mes…

Sovint s’ha parlat de la utopia de la tecnologia. Hi ha dos moments que trenquen amb aquesta creença. El primer coincideix amb les filtracions de Snowden, i el segon amb el cas de Cambridge Analytica, l’empresa que va tenir un paper decisiu en les victòries de Donald Trump i el Brexit utilitzant dades personals per a influir en decisions polítiques. Amb les revelacions de Snowden, es va trencar la confiança amb el govern, i amb l’escàndol de Cambridge Analytica es va trencar la confiança amb les grans corporacions. Crec que d’aquí a un temps ens passarà el mateix amb aplicacions com Facebook, Whatsapp o Instagram.

Com de ràpid hem de fugir d’aquestes xarxes socials?

És normal que la gent vulgui tenir-hi un compte, però com menys dades hi comparteixis, millor. L’ideal seria, per exemple, que no utilitzis el mateix navegador per accedir al compte bancari i per connectar-te a Facebook. Si una cosa la fas amb Chrome, l’altra la pots fer amb Firefox, o al revés. També és convenient evitar l’ús d’aplicacions mòbils que acaben enviant dades a grans corporacions com Google o Facebook. És preferible fer servir Facebook o Instagram des d’un navegador. 

La Covid-19 ha implicat prioritzar la recol·lecta de dades personals per sobre de la privacitat. Hi haurà un abans i un després en matèria de llibertats?

A escala europea, els protocols per analitzar els contagis són força segurs. De fet, un dels protocols més descentralitzats han estat desenvolupats en bona part per l’espanyola Carmela Troncoso i el seu equip, que treballen a Ginebra. La majoria de les aplicacions dels governs s’han desenvolupat amb aquesta idea: que les anàlisis de dades personals es fan al telèfon de la persona i no es comparteixen ni amb el govern ni amb les empreses. Tot i això, els governs regionals ja tenen les dades dels contagis perquè les han obtingut a través dels hospitals i els diferents sistemes de salut. Malgrat tot, altres governs han actuat amb més picardia i han arribat a un acord amb empreses poc fiables. Per exemple, arran de la pandèmia, el govern d’Anglaterra ha començat a col·laborar amb Palantir, una empresa que ven dades de persones migrants o sospitoses d’alguna il·legalitat a la policia.

La privacitat ha de prioritzar-se per davant de la seguretat?

La privacitat sempre és prioritària. La privacitat és un dret que ens permet desenvolupar les nostres idees, saber qui som i com volem presentar-nos al món. A vegades penso que és com la roba. Tu esculls com et vesteixes, o si et vesteixes una mica més o una mica menys. No sóc de les persones que considera que la privacitat ha mort i que, si no tens res a amagar, no cal amoïnar-se. De fet, la privacitat està en moltes constitucions i és un dels drets fonamentals. Ara bé, l’anonimat no és el mateix que la privacitat. L’anonimat és quan tu has fet alguna cosa i ningú ho sap. A vegades l’anonimat provoca una certa por. A La República, Plató parla de Giges, un pastor que troba un anell que li dona el poder de la invisibilitat que utilitza per matar el rei. El conte ens ve a dir que el do d’ocultar-se serveix per a fer el mal. Això no és cert i, a més, actualment existeixen tots els mecanismes per descobrir si algú ha comès un crim independentment de si llegeix El País, La Vanguardia o si prefereix un altre diari.

Realment hi ha els mecanismes per a perseguir la pederàstia, la venda il·legal d’armes o el narcotràfic al web fosc (dark web)?

Sí, hi ha mecanismes. Sempre que la gent utilitza un servidor es produeixen errors. La gent que comet un delicte també deixa un rastre fora del web fosc. A vegades el web fosc provoca una certa por perquè no hi ha una empresa al darrere. Però, en molts casos, el material il·legal també es comparteix per Whatsapp, com passa amb molts vídeos de ciberassetjament. També hi ha molt material que es comparteix a Dropbox o Cloudflare, un servei que et proporciona cert anonimat perquè no revela on es troba el servidor.

El web fosc és un terme criminalitzat. Hauríem de canviar l’enfocament?

Crec que sovint els mitjans no troben una bona història quan parlen d’arxius compartits a Dropbox. En canvi, si parles del web fosc, hi ha tota una narrativa al darrere que desperta més interès i que va desenvolupar-se amb el sorgiment de Silk Road, un popular mercat negre de droga desmantellat el 2013, i que evocava històries de pirates.

Com es planteja a Tor el dilema entre privacitat i seguretat?

Nosaltres escollim sempre la privacitat perquè l’usuari és la baula més dèbil de la cadena; especialment si viu en un país amb llibertats limitades. Cal tenir en compte que a Internet també hi ha contingut il·legal i que cada país té la seva manera de detectar qui comparteix aquests continguts. 

En un país on les llibertats estan limitades, el web fosc és un mitjà d’expressió i accés a informacions que en altres espais estarien vetats o suposaria un risc inassumible. Però Tor també és popular en les democràcies liberals. Per què és necessari Tor en un Estat com l’espanyol?

Tu has de tenir el dret de comprar alguna cosa i no haver de pagar un preu alterat pel fet d’haver buscat el mateix producte tres setmanes abans, com passa amb el cost d’un vol, per exemple. El dret a la privacitat és també això: no ser vist mentre busques qualsevol cosa. 

Hi ha alguna mesura implementada per The Tor Project o alguna altra organització que intenti mitigar l’ús de la xarxa per a cometre crims?

El protocol onion et permet publicar un web sense que ningú identifiqui l’autor ni el visitant. Es protegeixen les dues parts. Per altra banda, si ve algú i ens diu que una pàgina és il·legal, nosaltres no tenim manera de conèixer el servidor d’origen. Tot i això, nosaltres no volem que aquest tipus de contingut sigui al web fosc i sovint pensem mecanismes per evitar que n’hi hagi. Però són continguts que també existeixen a Internet.