La intel·ligència artificial és una branca de la informàtica aplicada al desenvolupament de màquines amb capacitat de simular conductes humanes o d’aproximar-s’hi, com ara el raonament, l’aprenentatge, el processament i la interpretació d’estímuls sensorials.  Així, es dedica al desenvolupament d’algorismes que permeten a un ordinador percebre el seu entorn lògic i prendre decisions amb la mínima intervenció humana, per maximitzar les seves possibilitats d’èxit en una o més tasques.

Tot i remuntar-se a la dècada dels anys 50, la intel·ligència artificial està més d’actualitat que mai per les aplicacions que tècniques com el reconeixement de veu i d’imatge, la traducció automàtica o la mateixa predicció de paraules tenen en l’àmbit de la comunicació entre els humans i les màquines. 

En aquest àmbit, és rellevant el procés de l’aprenentatge automàtic (en anglès, machine learning) dedicat a l’anàlisi, el disseny i el desenvolupament d’algorismes i tècniques que permeten que les màquines evolucionin, millorant el seu comportament a partir de l’estudi d’observacions o de les experiències pròpies.

En l’aprenentatge automàtic els dispositius treballen sobre grans volums de dades, hi identifiquen patrons de comportament i, sobre aquesta base, prediuen i suggereixen comportaments futurs. Aquesta possibilitat d’aplicar automàticament càlculs matemàtics complexos a dades massives (big data, en anglès) és un assoliment relativament recent que amplia el camp d’intervenció d’aquesta tècnica. 

Per exemple, la indústria financera l’utilitza per detectar oportunitats d’inversió i fer vigilància del frau. Els governs, per explotar les múltiples fonts de dades disponibles. La indústria de la salut ha desplegat dispositius i sensors que avaluen constants d’un pacient en temps real, i porten a la millora de diagnòstics i tractaments. I la indústria del màrqueting i les vendes, per analitzar historials de compra. 

I anant a un terreny més pràctic, són exemples concrets d’aplicació de l’aprenentatge automàtic la conducció autònoma que anuncia Google, les recomanacions en línia que ens fan Amazon o Netflix, a partir de l’anàlisi dels nostres patrons de comportament, o les alertes per detecció de fraus en ciberseguretat. 

Podeu consultar al Cercaterm,  el cercador terminològic del TERMCAT, les fitxes d’aquests termes catalans, i també trobareu al  canal Terminologia de les TIC  altres recursos d’aquest àmbit. 

Nota dels editors: Aquest article és el primer d’una sèrie que ha impulsat el Laboratori de Dades per a la Intel·ligència Artificial (Data-to-AI Lab) de l’Institut Tecnològic de Massachusetts (MIT), amb qui La Tecnòloga col·labora, i que vol generar debat i cooperació en les comunitats de l’aprenentatge automàtic (machine learning) i la ciència de dades. Podeu llegir l’article original en aquest enllaç. Traducció d’Anna Schnabel.

Sobre les Xarxes Generatives Antagòniques i el seu potencial creatiu

Les estimacions inicials del valor del retrat Edmond de Belamy van situar el seu preu entre els 7.000 i els 10.000 dòlars. En realitat, la pintura en si no és res de l’altre món. Pinzellades barroeres de color marró, negre, blanc i gris esbossen un home més aviat desdibuixat mirant lúgubrement i confusa fora del quadre. Però el 25 d’octubre de 2018, quan va tornar la calma a la casa de subhastes Christie’s, a Nova York, el retrat s’havia venut per 432.500 dòlars. 

L’art d’artificial 

Què va provocar el frenesí per apostar per part dels participants presents aquella tarda a la sala de subhastes? El fet que la tela havia estat ‘pintada’ per una màquina. La sèrie de retrats de Belamy és obra d’Obvious, un grup de tres artistes i programadors francesos que produïren la peça utilitzant Xarxes Generatives Antagòniques, o GANs, a partir d’un conjunt de dades de 15.000 retrats europeus¹. El resultat? Onze obres úniques, incloent-hi el retrat Edmond de Belamy, amb trets característics de les obres que van nodrir i entrenar el model.

El projecte atribueix potencialment a l’art produït per intel·ligència artificial (AI) el mateix mèrit que a l’art fruit de la mà humana. Al cap i a la fi, el que els d’Obvious van fer és imprimir el resultat de l’algorisme que els va agradar més amb una impressora d’injecció i, posteriorment, van posar-hi un marc daurat i van signar l’obra amb un fragment del codi de l’algorisme. Res té d’especial l’objecte en si mateix; es podria imprimir i emmarcar un miler de vegades més. Així doncs, la guerra d’ofertes per aconseguir el retrat de Belamy sembla respondre més aviat a la voluntat de fer-se amb una peça clau de la història contemporània: el moment en què les màquines esdevenen artistes.

Les màquines creen, però poden ser creatives? Aquesta és la pregunta que fa sorgir l’aparició dels GANs. Per a programadors com els d’Obvious, els GANs poden convertir-se en una eina molt poderosa a l’hora de prendre part en el debat sobre l’autenticitat. Com a tal, el projecte de Belamy és només un fragment d’un debat molt més ampli al voltant de la definició de la creativitat i sobre si els humans poden encara considerar-se els seus practicants exclusius.

Fallar és generatiu

Des de la seva concepció dins de la ment d’Ian Goodfellow, els GANs s’han aplicat a una gran varietat de tasques ‘creatives’. D’acord amb l’article de Goodfellow et. al. del 2014, les Xarxes Generatives Antagòniques entrenen dos models -un generador i un discriminador- al mateix temps. Un conjunt de dades original (imatges, text, etc.) es presenta als dos algorismes, cadascun dels quals separa les dades i avalua com es relacionen els seus components entre ells. Aquesta és una aplicació típica d’una xarxa neuronal. Però el que ve a continuació és la clau del procés. La mitologia del moment dibuixa a Goodfellow plantejant-se una pregunta: “què passaria si les xarxes neuronals poguessin competir entre elles?”

Dins dels GANs, el concepte de les xarxes antagòniques està vinculat a una operació anomenada ‘retropropagació’, que és un component crític del procés d’aprenentatge. Així, la wiki de Skymind.AI compara:

“… una xarxa neuronal amb una gran peça d’artilleria que intenta colpejar un objecte llunyà amb un projectil. Quan la xarxa neuronal fa una suposició sobre un punt de les dades, dispara, un núvol de pols emergeix a l’horitzó, i el tirador intenta esbrinar on impacta el projectil i la distància que la separa de l’objectiu. I aquesta distància és la mesura de l’error. La mesura de l’error és aleshores aplicada a l’angle i la direcció de l’arma, abans que dispari de nou. La retropropagació pren l’error associat amb una suposició incorrecta d’una xarxa neuronal, i utilitza aquest error per ajustar els paràmetres de la xarxa neuronal en la direcció en què es redueix l’error”. 

En aquest sentit, la retropropagació és similar a la cognició humana. Un operador d’artilleria, disparant uns quants projectils per provar i refinar la seva punteria abans de fer diana, aprèn què funciona i què necessita ajustar i automàticament fa aquests canvis cada cop que dispara. Però així com l’operador ha de confiar en els propis ulls per comprovar el seu grau d’èxit o fracàs, els GANs tenen un algorisme discriminador que indica si el simulacre és discerniblement fals o no. A més a més, una màquina pot disparar milers de trets en el mateix temps en què un humà dispara un sol cop. La potència iterativa de càlcul de la màquina permet, doncs, que ambdues xarxes coevolucionin ràpidament.

En resum, la retropropagació crea un entorn en el qual un algorisme generador s’entrena de manera ràpida i eficaç competint contra un algorisme discriminador. L’algorisme generador no té límits pel que fa a les habilitats que pot assolir amb relació al discriminador. A través d’aquest procés, la falsificació s’acosta asimptòticament a la realitat fins al punt que distingir entre els dos deixa de ser possible, fins i tot per a les màquines. Així, després de l’entrenament apropiat, l’algorisme generador esdevé capaç de produir simulacres que poden enganyar l’ull digital del discriminador i, conseqüentment, l’ull humà observant el resultat.

Remesclant la realitat

Hi ha nombrosos exemples d’eines basades en GANs en els últims anys, que van des de les populars i depredadores aplicacions per a crear deepfakes fins a d’altres més il·lustrades com el DeepDream, eines basades en GANs per generar inquietants imatges al·lucinògenes a partir de fotografies reals. Project Magenta, un grup d’investigadors afiliats a Google, desenvolupen i acullen una llibreria d’eines basades en GANs per augmentar la producció de música digital, proporcionant una altra aplicació fascinant per a la manipulació i la millora del so. (Podeu escoltar els resultats de la col·laboració entre Magenta i el grup musical de Los Angeles YACHT a l’àlbum que llançaren el setembre del 2019 aquí. I a sota hi trobareu un exemple d’interpolació de vídeo utilitzant eines basades en GANs per a projectar cossos en moviment, presentat en un article recent de Caroline Chan.)

Però no creguem que els investigadors en IA inverteixen el seu temps en deixar sense feina a artistes ja famolencs, perquè aquestes aplicacions artístiques encara no estan preparades per competir amb els grans mestres. Continuen sent eines per ser emprades pels humans en àmbits molt diversos i en diferents graus d’utilitat. Això sí, a banda d’aplicacions artístiques, les eines basades en GANs estan fent ruta cap a altres reialmes, un tema que s’explorarà en una altra publicació. 

Durant els darrers dos anys, investigadors del Laboratori de Dades per a la Intel·ligència Artificial (Data-to-AI Lab) de l’Institut Tecnològic de Massachusetts (MIT) ha estat experimentant amb GANs per resoldre un grapat de problemes socialment rellevants, que van des de transmetre -i detectar- missatges secrets i protegir vídeos amb una marca d’aigua fins a identificar anomalies i preservar la privacitat. Al DAI Lab li complau compartir alguns dels seus projectes més engrescadors amb les comunitats de l’aprenentatge automàtic i la ciència de dades amb l’esperança de generar debat i col·laboració. Amb aquesta intenció, aquest article és el primer d’una sèrie de publicacions sobre els projectes de xarxes generatives antagòniques del laboratori per a incloure mostres de la nostra feina, tutorials, comentaris i llibreries de codi obert. Planegem publicar aquests articles cada dues setmanes, alternant-los amb una sèrie de tutorials dedicats a varis dels nostres últims projectes relacionats amb GANs. Torneu aviat a la nostra pàgina de Medium i seguiu-nos a Twitter.

[1]: El debat persisteix sobre l’origen del codi que Obvious va utilitzar per produir el retrat de Belamy. El programador Robbie Barat, artista d’IA no afiliat a Obvious, és responsable, segons algunes fonts, del 90% del codi utilitzat en el projecte, tot i que originalment havia publicat el codi sota la llicència creative commons.

La pandèmia de la Covid-19 ha posat sobre la taula la necessitat d’anticipar-se als brots epidèmics per fer més eficients els processos de contenció i mitigació. Amb aquest objectiu, Catalunya ha vist néixer aquest dijous el primer projecte per a la prevenció d’epidèmies basat en intel·ligència artificial (IA) i l’anàlisi de dades massives (Big Data).

L’observatori epidemiològic, impulsat pel Govern de la mà d’institucions mèdiques com l’Hospital Germans Trias i Pujol, operadores telefòniques, i centres educatius com la Universitat de Girona i la Rovira i Virgili, vol estudiar la propagació d’epidèmies a través de l’anàlisi de dades del cens, epidemiològiques, meteorològiques i mediambientals i d’algunes companyies telefòniques per crear “millors models predictius”, que ajudaran a elaborar models matemàtics i a dissenyar estratègies per preveure i mitigar la propagació d’epidèmies presents i futures.

Segons una nota de premsa de la Generalitat, en primer lloc es procedirà al creuament de les dades de forma agregada i anonimitzada -en cap cas implicarà traçabilitat o identificació de les persones-, i a l’anàlisi i extensió de models matemàtics per comparar i predir patrons específics d’epidèmies, a partir de la grip i la Covid-19. Això permetrà definir un primer model epidemiològic al qual posteriorment s’aplicaran tècniques i algoritmes d’aprenentatge automàtic (Machine Learning) per millorar-lo. Finalment, es treballarà en la construcció d’una eina capaç d’integrar les diferents fonts de dades de manera automàtica que permetrà el monitoratge de l’evolució d’una epidèmia i crear un sistema de suport a les decisions obert per a les comunitats científica i sanitària.

“Respecte a la informació de caràcter personal”

La mateixa nota subratlla que “una de les prioritats d’aquest Observatori és definir un model de tractament de dades que garanteixi plenament el respecte a la informació de caràcter personal per protegir la intimitat i privacitat dels ciutadans”. “En aquest sentit -continua el comunicat-, per tal d’estudiar la transmissió del virus, es treballarà amb dades agregades epidemiològiques i de mobilitat, sempre agregades i anonimitzades, seguint les recomanacions i millors pràctiques del Comitè Europeu de Protecció de Dades (CEPD) i del Departament de Salut.”

L’Observatori s’ubicarà a l’Hospital Germans Trias i Pujol (HGTiP) i comptarà amb la coordinació científica del doctor Bonaventura Clotet, cap del Servei de Malalties Infeccioses de l’HGTiP i president de la Fundació Lluita contra la Sida (FLS). La coordinació tècnica anirà a càrrec del Center for Innovation in Data tech and Artificial Intelligence (CIDAI), creat en el marc de l’Estratègia en Intel·ligència Artificial del Govern de Catalunya, Catalonia.AI.

Aquesta iniciativa publicoprivada suma els esforços de la Generalitat de Catalunya, a través del Departament de Polítiques Digitals i Administració Pública i el Departament de Salut; institucions mèdiques i de salut (Hospital Germans Trias i Pujol i Fundació Lluita contra la Sida); centres d’innovació i investigació tecnològica i grups de recerca (CIDAI, Eurecat, Barcelona Supercomputing Center, Universitat Rovira i Virgili i Universitat de Girona) i el Mobile World Capital Barcelona. A més, el projecte compta amb la col·laboració de la iniciativa GSMA AI for Impact.

La iniciativa neix del Govern i la Universitat de Girona (UdG) i pren la forma d’una càtedra amb seu a la facultat. Segons una nota de la Generalitat, l’Observatori té la missió d’estudiar els impactes ètics i legals de la implantació de la IA en la vida diària, de vetllar perquè la tecnologia s’apliqui de manera segura i justa, d’establir unes directrius ètiques i, en definitiva, de desenvolupar al país “una intel·ligència artificial ètica i confiable”. Per aconseguir-ho, l’observatori vol analitzar l’evolució del desenvolupament de la IA a Catalunya, impulsar jornades i tallers per debatre sobre ètica, regulació i IA, promoure la conscienciació ciutadana entorn la IA i les decisions automatitzades i crear un consell assessor format per experts d’àmbits diversos -acadèmic, tecnològic, humanístic, legal, econòmic, etc.

La iniciativa compta amb un pressupost de 250.000 euros per al període 2020–2022, finançats principalment pel Departament de Polítiques Digitals en el marc de l’estratègia Catalonia.AI, l’Estratègia d’Intel·ligència Artificial de Catalunya, aprovada el 18 de febrer, i el pla estratègic de la Universitat de Girona ‘2030: La suma d’Intel·ligències’, que vol buscar el millor encaix de la intel·ligència artificial amb la intel·ligència natural i la intel·ligència col·lectiva.

El tret de sortida de l’Observatori l’han donat aquest matí el conseller de Polítiques Digitals, Jordi Puigneró, i el rector de la UdG, Quim Salvi, entre altres representants del Govern i la universitat, que han presentat el nou organisme en un acte telemàtic amb la intervenció de Karma Peiró i de la professora d’Investigació de l’Institut de Robòtica (CSIC-UPC) i escriptora Carme Torras.

La necessitat d’una mirada ètica

Els intents de regular la intel·ligència artificial des d’una mirada ètica persegueixen l’evolució tecnològica, però de moment no l’atrapen. El febrer, la presidenta de la Comissió Europea (CE), Ursula Von der Leyen, va presentar un pla per regular la IA i recuperar la sobirania digital davant els gegants tecnològics, tot i que les veus crítiques li van retreure poca concreció. A l’abril del 2019, un grup d’experts d’alt nivell de la CE havia fet públiques unes Directrius Ètiques per a una IA Confiable (Ethics Guidelines for Trustworthy AI). Poc després, el professor de filosofia de la Universitat de Mainz (Alemanya) Thomas Metzinger, que va formar part del grup d’experts, va denunciar al diari Der Tagesspiegel que “el relat de la Intel·ligència Artificial confiable pretén eixamplar els mercats futurs i utilitzar els debats sobre Ètica com un bell decorat públic per a una estratègia d’inversió a gran escala”. Per això, cal prendre consciència que la revisió ètica de la IA necessita molt més que una declaració de bones intencions.

“Maleït creador! Per què no vaig perdre en aquell moment la flama de l’existència que tan imprudentment vares encendre?” brama, amb set de venjança, la solitària criatura de Víctor Frankenstein a l’obra mestra de Mary Shelley. Sense màquines al relat, Frankenstein ha contribuït a crear un imaginari simbòlic de la Intel·ligència Artificial (IA) més a prop del recel que de l’encís: les nostres creacions poden rebel·lar-se i posar la humanitat contra les cordes. Són un mirall d’aquesta por irracional les novel·les 1984, Jo, robot, Un Món feliç; les pel·lícules Blade Runner, Matrix, Ex-Machina; les sèries Black Mirror, Westworld… La llista és inacabable.

Segons l’estudi El Factor Frankenstein: anatomia de la por a la Intel·ligència Artificial, elaborat per SogetiLabs el 2017, més d’un terç dels ciutadans de la Unió Europea creu que l’IA serà una amenaça per a la supervivència de l’home a llarg termini. Mentrestant, un 46% no veu cap benefici en la idea de desenvolupar robots humanoides. “Hi ha quelcom d’atàvic en la por que els humans sentim cap al progrés i la tecnologia. Cap a un futur que ens parla de suplantació”, escriu el director de la pel·lícula Eva, el barceloní Kike Maíllo, a La Màquina Aparentment Desobedient, publicat a la Revista Idees del Centre d’Estudis de Temes Contemporanis (CETC), que dimecres va oferir un diàleg en línia sobre l’imaginari simbòlic de l’IA entre dos investigadors de primer nivell: Ramon López de Mántaras i Carme Torras.

El cert és que la ciència-ficció ha apel·lat molt més a la distopia que a la utopia. I quan la tecnologia entra en escena, ja podem presagiar un final apocalíptic. Tot i això, la ciència-ficció no només ha servit per sembrar el terror: també ha contribuït a “crear debat i consciència crítica sobre la tecnologia i la Intel·ligència Artificial”, va advertir Carme Torras.

De fet, Torras, que és investigadora a l’Institut de Robòtica i Informàtica Industrial de la Universitat Politècnica de Catalunya (UPC), doctora en Informàtica i novel·lista, ho ha posat en pràctica a La mutació sentimental (Editorial Pagès Editors), on es planteja si el fet de ser criat per mainaderes artificials i educat per mestres robòtics afectaria els nostres hàbits intel·lectuals, emocionals i socials. Al mateix temps, posa sobre la taula una sèrie de qüestions que són utilitzades actualment a diverses universitats del món per impartir formació ètica en algunes carreres tecnològiques. Així, Orwell, Huxley o Shelley han entrat a l’acadèmia per polemitzar el dilema seguretat versus llibertat, el totalitarisme tecnològic, els substituts emocionals, les rèpliques humanes i un prolongat etcètera. Els interrogants morals també perseguiran el lector d’Enxarxats, obra de la mateixa autora –i a la qual la Fundació Bit va dedicar aquesta ressenya. Aquesta setmana, la Fundació Mallorca Literària ha entrevistat a Torras sobre aquesta novel·la i ha reflexionat amb ella sobre els múltiples dilemes que plantegen les xarxes socials a la societat.

La màquina es rebel·la

Predir el futur mai ha estat fàcil. Tot i això, durant l’acte del CETC, Ramón López de Mántaras, enginyer físic i investigador del Consell Superior d’Investigacions Científiques (CSIC), ens recordà la gran quantitat de projectes de recerca en IA dels darrers 50 anys que van ser anticipats per 2001: una Odissea a l’Espai (1968). Per exemple, el reconeixement facial -“fins i tot quan la cara només hi està dibuixada”, precisa l’investigador-, el diagnòstic predictiu d’avaries, la lectura de llavis, la capacitat de jugar a escacs a molt alt nivell o el domini absolut del llenguatge natural. López de Mántaras afegeix que el supercomputador Hal, encarregat de controlar les funcions de la nau espacial, no simula tenir estats mentals sinó que realment els experimenta, així com la por de ser desconnectat. Per això Hal “mata en defensa pròpia”, diu. De nou, la màquina es rebel·la. 

No obstant això, el dilema del robot entre acatar i sotmetre’s va aparèixer per primer cop a l’obra d’Isaac Asimov. El visionari autor, que enguany hauria complit 100 anys, despuntà com a escriptor enmig de l’horror d’Hiroshima i Nagasaki i una allau d’avenços tecnològics que amenaçaren com mai abans la humanitat. Asimov, científic de professió, va recórrer a la literatura per plantejar els dubtes i les pors que li generava la ciència: al seu llibre Jo, Robot va establir les famoses lleis fonamentals de la convivència entre humans i robots, que han estat assimilades per la comunitat que investiga en IA.

La fragmentació del coneixement en compartiments estancs mai no ha afavorit el progrés. Per això, la multidisciplinarietat és necessària si volem evitar el desastre. Com escriu Torras a la Revista Idees, el món de la recerca de la IA ha vist “la necessitat de treballar conjuntament amb científics socials, psicòlegs, advocats, filòsofs i antropòlegs per tal d’analitzar les implicacions socials i ètiques de les tecnologies que s’estan desenvolupant i la forma com s’estan desplegant”. I en aquesta tasca, la literatura, el setè art i els diferents engranatges que alimenten el nostre imaginari simbòlic hi tenen molt a dir. Com va dir Neal Stephenson, la ciència-ficció pot donar idees per a innovacions tècniques i, sobretot, “pot oferir una imatge coherent d’aquestes innovacions integrades en una societat, en l’economia i en la vida de les persones”.

Així, Kike Maíllo aconsegueix a la seva pel·lícula Eva que el gran públic es plantegi: Les màquines de companyia podran ser bones amigues nostres? Serem capaços d’establir lligams d’afecte amb artefactes que es limiten a obeir el seu propietari? I si els conferim consciència i lliure albir per a igualar-nos-hi, quina relació de poder hi establirem amb les màquines, una vegada hagin adquirit una intel·ligència immensament superior a la nostra?

Davant les habituals batalles verbals que es despleguen a Twitter, la plataforma vol oferir una segona oportunitat als tuitaires més agressius. Així, la companyia està provant un nou sistema per calmar els ànims abans que algú hi obri foc: quan els algorismes detecten una resposta amb llenguatge “ofensiu”, hi apareix una finestra amb una suggerència per canviar el text abans de ser publicat. Una mesura que ha sembrat la desconfiança a diversos usuaris de Twitter: “La llibertat d’expressió existeix perquè la gent pugui dir coses que no t’agraden. Al final és una companyia la que decideix què és apropiat i què no, que no és cap poder moral superior”, diu un usuari.

L’any passat, Instagram va fer una prova similar. “Els resultats han estat positius. Veiem que aquests tocs d’atenció poden animar la gent a reconsiderar les seves paraules”, va escriure al desembre la companyia al seu blog. D’aquesta manera, avui, quan els algorismes d’aquesta xarxa social detecten que un usuari és a punt de publicar un comentari potencialment lesiu, se li apareix un avís com el de la imatge, i l’informa de que frases similars ja han estat denunciades abans.

Cal tenir en compte que, amb Twitter, ja són totes les grans xarxes socials les que han mostrat la seva confiança en la Intel·ligència Artificial a l’hora de moderar continguts. I això és especialment cert quan la pandèmia ha fet retallar temporalment molts llocs de feina, segons Tech Crunch. Tot i així, és evident que es tracta d’una mesura que ha vingut per quedar-se.

A Dejad que las máquinas vengan a mí, dius que estem en procés de deshumanització a causa de la irrupció de les màquines. En quin sentit és així? El llibre és un cant a la tecnologització de la vida?

El títol és un joc de paraules. “Deixeu que els nens vinguin a mi”, diu Jesús a la Bíblia. Però aquesta no és una frase neutra. Els nens són el futur de l’església. Són els qui cal convertir. Llavors, “deixeu que les màquines vinguin a mi” significa que cal convertir a les màquines. D’altra banda, pot dir-se que Jesús era un marrec amb superpoders. Segons els evangelis apòcrifs, que conten la infància de Jesús, un nen l’empeny i ell respon “Tant de bo caiguis mort”. I el nen cau mort immediatament. És a dir, de sobte, el llenguatge de Jesús adopta una fórmula tèlica. Els verbs tèlics inclouen el seu final, tal com passa amb “acabar”. I, en certa manera, els algorismes també ho són. Això sempre ha impregnat la imatge de déu: un ésser que pot fer complir allò que anuncia. Però nosaltres, amb les màquines, també donem ordres que s’executen. Ordenem tota l’estona com ens comportem respecte als altres i respecte al món. El que passa és que a força de dibuixar-nos a través de les màquines, ens hem dibuixat com a màquines. I cada vegada ens hi assemblem més.

La veritat és que a mesura que les màquines adquireixen atributs humans, com la intel·ligència o la creativitat, cada vegada és més difícil separar allò humà d’allò artificial. Introduint les màquines a l’equació, què queda de nosaltres i què ens defineix com a humans?

Jo parlo del Principi d’Humanitat Suficient, fent un altre joc de paraules amb el Principi de Raó Suficient de Leibniz. En realitat no ens estem deshumanitzant perquè mai no hem tingut clar què és ser humà. Sempre ens hem aferrat a l’excepció: som allò que els altres éssers no són. El problema -o potser la virtut- és que, amb les màquines, tot allò que ens feia excepcionals s’ha anat erosionant. Quan Leibniz va fabricar una calculadora, les màquines van saber sumar. Fins llavors, podríem haver pensat que el càlcul numèric era allò que ens feia humans. Però, al final, això de la humanitat s’ha convertit en una mena de carxofa i anem perdent fulles. I què en queda, de nosaltres? En realitat és igual l’atribut, perquè l’important és que ens preguntem què som. Aquesta pregunta no té cap sentit per a una màquina. El que passa és que la tecnologia ha contribuït a fer petit el món. El problema són les lògiques que hi ha darrere de les màquines, que beuen de la tradició aristotèlica i passen per Ramon Llull, Leibniz, … Però les màquines també podrien ajudar-nos a ampliar els punts de vista i les maneres d’estar en el món. Per a això caldria repensar la tecnologia des de zero. I caldria utilitzar altres aparells lògics subjacents que poden obrir camps estadístics més complexos.

Deixar de perseguir el Principi d’Humanitat Suficient seria una forma de llibertat?

Clar, és un llast. Trenquem les categories que ens impedeixen pensar-nos d’altres maneres. Les màquines reflecteixen la nostra lògica occidental, masculina i, en termes d’Adorno, de domini de la realitat, d’administració de la realitat i de la vida, que en realitat és l’exclusió de la vida. La vida és molt difícil de formalitzar i, no obstant això, totes les estructures estan super formalitzades. Comencem a trencar aquestes lògiques binàries que divideixen el món entre el jo i l’altre, entre home i dona, entre animal humà i animal no humà, entre persona capacitada i no capacitada, etcètera. Trenquem aquestes dicotomies que tanquen el món en capsetes que, al seu torn, ens tanquen a nosaltres. Perquè així és com perdem maneres de viure i d’experimentar una realitat que és més rica que nosaltres. Sobretot perquè, en general, a la realitat no li importem gaire.

Barrejant filosofia i etnografia, has traçat mapes del futur per a empreses com Ikea; mentre que Dejad que las máquinas vengan a mí es diu que és una antropologia del futur. Cap a on anem?

Els treballs per a empreses solen ser més banals, perquè aquestes quantifiquen la realitat amb els diners. Els escenaris més o menys especulatius que els presento són relativament fàcils de dibuixar. Però en les antropologies, afortunadament, no tot és quantificable i hi ha molta part d’inferència. Quan parlem de la condició humana, tot és més complicat perquè és molt més obert. Jo no tinc massa clar cap a on anem, però si continuem escoltant als homes blancs occidentals, en els quals m’incloc, tal com ho hem fet durant els últims 2.500 anys, continuarem retallant una gran quantitat de mirades possibles a nosaltres mateixos i al món. Per tant, els homes blancs occidentals hem de fer un pas enrere i deixar que altres entitats parlin. I això passa per escoltar les dones, com a gènere i com a institució política, i no opinar. Passa per eliminar aquesta construcció de domini sobre la dona, sobre els animals, sobre el planeta i sobre nostre estar en el món.

D’altra banda, sempre havíem pensat que la intel·ligència ens feia superherois i, de sobte, amb les màquines, ha quedat en no-res. Però en aquest no-res hi ha moltíssimes virtuts. En el Zarathustra, Nietzsche diu que al nostre cos hi ha molta més intel·ligència que en cap de les idees que generi mai el nostre cervell. I té raó. Diem intel·ligents a les màquines quan en realitat la intel·ligència és un resultat de la vida i no de quantificacions o formalitzacions alienes a ella. Intel·ligència és acceptar-nos com a entitats vives, tenint en compte que nosaltres no vivim la vida, sinó que la interpretem. El llenguatge ens separa de la vida i ens fa interpretar el que som contínuament.

Els dibuixos del futur que hem plasmat en la ciència-ficció -com Blade Runner, District 9 o Matrix– són quasi sempre distòpics. Hi ha lloc per a l’esperança?

Sí que n’hi ha. Ens hem vist en pitjors situacions. Sempre ens hem sentit excepcionals i per això hem imaginat per a nosaltres un final de l’hòstia: l’apocalipsi, la destrucció del planeta, … Però, com deia Gramsci, les narratives d’allò nou estan una mica esgotades. Allò nou no acaba de sorgir i ens fa por. Però no perdem la perspectiva històrica. Locke, el pare de moltes de les nostres idees polítiques actuals, va haver de fer front a una realitat molt més fotuda, la de les monarquies absolutistes. I per a això va caldre matar a Déu. I, de la mateixa manera, segurament nosaltres hem de matar els diners, que li donen valor i sentit a la realitat. Ara fem coses que per als nostres avis era impensable, com llogar les nostres tasses del vàter a Airbnb. Ho hem ficat tot al mercat. Però hi ha espais on els diners no poden entrar. El gran fracàs de la pandèmia no és només el sistema liberal anglosaxó, sinó també la idea que les multinacionals anaven a substituir l’estat-nació. Però allò que ens guarirà és una vacuna subministrada per un Estat.

A més, amb la pandèmia s’ha produït una reducció del món inesperada. Ens hem cenyit als mínims possibles de producció i consum. De sobte, han desaparegut la indústria cultural, el disseny i un munt d’indústries col·laterals que abans eren importants i ara sembla que no serveixen per a res. Perquè no van a favor de la vida. Perquè formen part d’aquesta capa ideològica que ens havíem construït, on els diners eren molt valuosos. Però no necessitem els diners per a explicar la realitat. Potser ara crearem nous espais aliens al mercat, perquè hem vist que el mercat peta. Que la realitat governada pel mercat no existeix; era una ficció. Hem de començar a pensar-nos més enllà de la transacció, més enllà del valor econòmic i d’un business plan.

La situació actual és una mica distòpica. A més, amb el distanciament social ha passat una cosa curiosa. Com dius als Tres apuntes morales sobre la pandemia, nosaltres ens hem convertit en amenaça per als altres i viceversa i, a més, construïm comunitat allunyant-nos els uns dels altres.

Sí, és com una mena d’antinòmia. Però em sembla molt bonica. Sartre deia que l’infern són els altres. Que els ulls dels altres poden veure’ns cometent una falta. Que els altres poden denunciar-nos. I, de sobte, amb la pandèmia, l’infern som nosaltres. El vector de transmissió som nosaltres. De cop i volta, ens reconeixem com a lesius. Però l’home blanc occidental mai s’ha sentit amenaça, i quan s’ha sentit amenaça en realitat és perquè l’ha executat. Això erosiona la seva posició de poder perquè ha de desplaçar-se cap a un territori que mai ha ocupat: el de l’altre. I això trenca una mica les lectures tradicionals del jo, la masculinitat, els masclismes. Vindrà una crisi econòmica brutal i el sistema en sortirà malferit, però em sembla que ens pot fer pensar-nos de maneres diferents.

Continuant amb les distopies, Matrix introdueix la gestació en úters artificials -allò que es coneix com a ectogènesi– mentre la nova de Blade Runner (2017) introdueix la natalitat dins de l’univers robot. Si això acaba succeint, quines conseqüències tindrà per a les dones? Les podria alliberar o tot just al contrari?

Una de les idees dels projectes feministes que han quallat més enllà del feminisme és que la biologia no és destí. És a dir, que no tenim per què fer cas als dictats dels nostres cossos. Crec que qualsevol cosa que permeti superar el destí, perquè possibilita ampliar les maneres d’ocupar la realitat, és bo. Aleshores, si l’ectogènesi allibera la dona de ser l’esclava de tenir fills -i dic esclava perquè de moment és l’única que pot fer-ho-, em sembla perfecte. Que després hi haurà dones que decidiran tenir fills per via intrauterina? Doncs fantàstic. Després podríem plantejar-nos si l’ectogènesi dins d’un aparell capitalista beneficiaria o no a les dones, però estaríem qüestionant més l’aparell capitalista i no tant la tecnologia per se. Encara que també és cert que no hi ha tecnologies neutres, però això és un altre debat.

I, per altra banda, hi ha la qüestió de la maternitat a Blade Runner. De sobte, si els robots poden tenir fills, sorgeix la pregunta de què passa si la capacitat d’engendrar vida tampoc ens defineix com a humans. Encara que jo no sóc més humà per ser fill intrauterí de la meva mare. La dependència de la carn és una estupidesa. Allò perillós és que la filla robot sigui digital i no analògica. I el nostre cos -aquesta intel·ligència de la qual parlava Nietzsche- és super analògic. Perquè és la nostra integració amb el món, una continuació del món. I algunes tecnologies són una mena d’exclusió de la vida. Estem inventant un tercer estat entre la vida i la mort, que és allò que jo anomeno infravida. Infravida també és l’estat de les gallines amuntegades en els inferns de les granges avícoles. És una culminació del domini de la vida. És l’epítom de la lògica que va d’Aristòtil a l’algorísmia dels ordinadors, i no un reconeixement a la vida com allò inesperat, diferent, obert.

Entre altres coses ets assessor ètic d’empreses. Com evitar que el teu treball es quedi en el blanqueig ètic d’un business plan?

Jo intento definir els marcs ètics en què operen les companyies i, clar, sempre intento que no quedi en un blanqueig ètic. Un marc ètic és un conjunt de pràctiques que l’empresa pot fer abans de generar danys a tercers. I això no ha de confondre’s amb una forma de consol. En primer lloc, l’ètica no pot venir donada des de fora. Són les mateixes companyies les que han de descobrir quin és el seu marc ètic. No m’interessa tant fer-los un decàleg com plantejar-los com poden fer bé allò que fan. Després, cal definir el “bé”, i molts solen anomenar-lo “impacte positiu”. Perquè aquest impacte positiu sigui real, cal veure a qui afecta i de qui depèn. I per a això cal analitzar tota la cadena d’involucrats, on sempre s’amaguen sectors o poblacions més desfavorides, més mal pagades, menys qualificades, … Hi ha una llei que, en aquest moment polític actual, pot ajudar-nos amb això: “Sempre del costat del perdedor”. És a dir, tenir en compte que sempre hi ha un perjudicat. Intentar definir qui és el perjudicat en la cadena de valor per a perjudicar-lo el mínim o, si és possible, empoderar-lo. I, a partir d’aquí, ampliar aquest cercle virtuós als treballadors, a les persones, a la comunitat on treballes, etcètera. La idea és evitar que només quedi en un business plan i, perquè això passi, han de donar-se dues condicions: la primera és que les persones facin seu aquest marc ètic i, la segona, i la més important, és construir polítiques que obliguin a executar-lo. No hi ha res pitjor que tenir una visió moral d’allò que fas i no ho compleixis.

El món està molt fragmentat i tenim un camp de visió molt estret. En el terreny empresarial, hi ha manera d’evitar ser esclau del sistema i no convertir-te en un engranatge més?

Sobre això s’ha escrit molt. La construcció seriada de la realitat parcel·la la nostra capacitat d’actuació i la nostra responsabilitat moral. Imaginem que hi ha un milió de torturadors amb un milió de dispositius que només emeten un volt. Cap d’ells, aïlladament, electrocuta el torturat. Allò que mata és la suma dels volts. Què és allò que els faria moralment responsables d’aquesta mort? El fet de saber que, si tots apreten el botó al mateix temps, provoquen una mort. Potser cal tornar a perseguir la majoria d’edat kantiana, i assimilar que si seguim comprant segons quina roba estem fotent a algú. Però d’allò que no ens podem alienar responsablement és de no mirar. No podem dir que no ho sabíem, perquè tots sabem quina és la realitat. Quan Amancio Ortega regala milions d’euros en material sanitari està comprant l’aprovació moral de la societat. Però en realitat el seu problema moral és no haver respectat als perjudicats de la cadena de valor de les seves empreses.

Llavors, com fer que aquest marc ètic no quedi en pur blanqueig? Cal posar límits a les nostres accions, perquè potser els nostres guanys no compensen el mal que fem. És un pensament una mica antiutilitarista. La idea que el benefici de les majories val més que el perjudici de les minories és mentida. Si el benefici es crea matant a algú, mai podrà compensar-se el mal. Per això, com ha passat amb la pandèmia, la clau és prendre consciència que som amenaça.

Aquests dies, la ciència treballa a contrarellotge per frenar una pandèmia que ha colpejat els cinc continents. Però, amb el coronavirus, també es propaguen els estudis científics. L’objectiu és comú: accelerar el lent camí cap a una vacuna i frenar els contagis per evitar més morts. I els esforços no ens queden lluny. A tall d’exemple, per iniciativa d’una professora de la Universitat Politècnica de Catalunya (UPC), Montserrat Alsina, s’ha impulsat l’elaboració urgent de models matemàtics predictius d’infeccions i ingressos hospitalaris, així com la proposta de millores logístiques en els serveis d’urgències. Mentrestant, la comunitat virtual CoronaWhy, creada fa menys de dues setmanes, ja ha aconseguit reunir prop de 550 voluntaris provinents de diferents branques del coneixement. Són més de mig miler de persones dedicades a pensar, coordinar i elaborar estratègies per ajudar la comunitat mèdica a respondre els interrogants vitals que planteja la malaltia. La Tecnòloga ha entrevistat un voluntari d’aquesta organització: el científic de dades Manuel Álvarez.

Primer de tot, què és CoronaWhy?

CoronaWhy és un esforç comunitari per fer digerible la col·lecció d’articles científics vinculats a la pandèmia més extensa que existeix, l’anomenat CORD-19 [Covid-19 Open Research Dataset], que ja reuneix més de 45.000 publicacions. L’expert en sistemes d’intel·ligència artificial Artur Kiulian va fer una crida a l’acció utilitzant la plataforma Kaggle, on va començar a reunir-se gent amb ganes de fer alguna cosa, fa dues setmanes. I el projecte ha agafat una dimensió exponencial. A més, CoronaWhy va néixer en el si d’una competició. Inicialment, l’Allen Institute for Artificial Intelligence oferia 1.000 dòlars per al guanyador de cada tasca plantejada. Cal tenir en compte que normalment s’hi ofereixen més diners i aquest és, en realitat, un preu simbòlic. Així, aquest cop ha desaparegut l’incentiu del guany personal però, donada la urgència de la situació, hi ha hagut una col·laboració molt bèstia. 

Com s’organitza un grup tan gran i multidisciplinar per treballar i, després, reunificar esforços? 

Aquest problema encara s’està intentant resoldre. La comunitat es veu una mica superada pel seu propi creixement. Per això fem una separació cada cop més acotada de les diferents tasques. Per comunicar-nos internament utilitzem el servei de missatgeria Slack. Fem una videotrucada diària amb Zoom per coordinar-nos i fer una actualització dels diferents equips de treball. I amb Trello gestionem les diferents tasques, on el moviment és frenètic i cada grup de feina té el seu propi tauler.

Quin són els problemes que intenta resoldre CoronaWhy?

Amb base al conjunt massiu d’articles, els científics de dades filtrem, sintetitzem i estructurem el coneixement. L’objectiu és que els especialistes mèdics puguin tenir accés a la informació resumida i agrupada al voltant de preguntes com, per exemple, “què en sabem dels factors de risc de la Covid-19?” o “què sabem sobre les vacunes i els fàrmacs?”. Sobre tot això s’ha investigat i escrit moltíssim. Nosaltres recopilem la informació i la processem. A més, elaborem una guia amb l’objectiu de, posem per cas, fer polítiques de prevenció. Cada dia entren nous articles i es plantegen noves preguntes, mentre d’altres es reformulen. Al mateix temps, alguns especialistes mèdics revisen la feina que fem.  

La Intel·ligència Artificial s’ha convertit en una de les especialitats per intentar predir l’avançament de la Covid-19. Com s’està fent servir, en aquest cas? 

La principal tasca de la intel·ligència artificial a CoronaWhy és el processament del llenguatge natural per identificar similituds i confluències entre els articles científics. Això permet als investigadors crear un feed de cerca personalitzat en funció dels seus interessos. D’aquesta manera, estem entrenant uns models capaços de processar i entendre els llenguatge mèdic, amb les seves particularitats, i en qualsevol idioma. Passa el mateix quan fem una cerca a Google, i aquest ens retorna una resposta sintètica a partir dels diferents continguts que ha trobat a la xarxa. O sigui, que a partir de tots els textos, la intel·ligència artificial en resumeix la informació més rellevant. També s’utilitza el processament del llenguatge natural per vectoritzar els textos, de manera que s’identifiquen i es relacionen diferents paraules que són sinònimes i, així, es fa una relació i una classificació d’articles. 

I quina és la teva tasca principal?

Jo estic a l’equip Task-Geo. Ens dediquem a la recopilació de dades geogràfiques i a l’estudi de la influència dels elements geogràfics, com poden ser la meteorologia o la densitat de població, en la transmissió del virus. Concretament, jo em dedico a recopilar dades empíriques com la temperatura, la humitat, la incidència del tabaquisme o la diabetis, que es troben repartides en mil fonts i formats diferents. La idea és estructurar aquesta informació d’una manera unificada per reentrenar els models matemàtics amb dades actualitzades dia a dia. Així, podrem veure quines hipòtesis es mantenen i quines altres no. 

Qui pot participar a CoronaWhy? Fa falta més gent?

Qualsevol persona hi pot participar. Paral·lelament als grups de treball dels àmbits científics, se’n formen d’altres de caràcter transversal, dedicats a la comunicació o a la gestió de projectes. Si no es té un perfil tècnic, es pot participar en l’organització, la coordinació de l’equip, la comunicació interna o la divulgació. Ara tenim moltes mans. Si som capaços de canalitzar tot aquest esforç i el que pugui arribar, podem fer que la feina avanci més ràpid. I això pot ajudar a salvar vides. 

Respostes com la de CoronaWhy poden canviar la manera de fer recerca? 

Aquest esforç no seria possible sense el pes de la comunitat del Software Lliure i plataformes com Kaggle, que canalitzen aquesta iniciativa. Desconec si això tindrà una influència en el món acadèmic i canviarà la manera d’investigar, però sí que s’obren per a les Dades Massives (en anglès, Big Data) nous horitzons en la recerca mèdica. És a dir, sobre el coronavirus s’ha fet recerca, i nosaltres fem recerca sobre la recerca. Dit d’una altra manera: busquem quins resultats de la investigació són més o menys influents. Molts equips científics s’han adonat que els mateixos estudis no arriben als mateixos resultats o, directament, són difícils o impossibles de replicar o reproduir. La ciència de dades també pot ajudar a resoldre aquesta mena de problemes que s’han convertit en sistemàtics en el món de la recerca.

Normalment, els científics de dades treballeu amb problemes més ben definits, i en aquest cas, en canvi, les preguntes no estan del tot plantejades…

Sí, habitualment treballem amb problemes molt més acotats. Per exemple, ens demanen que predim el preu d’un pis en funció d’unes variables com els metres quadrats, els anys que té, la il·luminació o la localització. És un problema tancat. A CoronaWhy també tenim clar l’objectiu: aturar l’epidèmia. Però això no és una pregunta, sinó un conjunt de preguntes molt obertes. Per això, la nostra primera feina és intentar acotar al màxim els interrogants. Quina és la millor manera d’evitar noves transmissions és una pregunta molt oberta. En canvi, no ho és tant demanar-nos si els Estats que han mantingut el transport públic han tingut menys èxit que els que l’han tancat. Aquesta darrera pregunta és més fàcil de respondre amb ciència de dades.

L’Estat utilitzarà les dades de les teleoperadores per rastrejar els moviments anonimitzats dels ciutadans amb la finalitat de monitoritzar l’avanç de la Covid-19. Què n’opines? 

Fa uns dies vaig llegir en algun lloc que, abans d’una tragèdia, totes les prevencions semblen innecessàries i, després, totes les mesures pal·liatives semblen insuficients. Al gener, ningú podia saber que això explotaria d’aquesta manera. També és cert que l’Estat ha badat i ha flaquejat a l’hora d’implementar determinades mesures. No tenia sentit mantenir el transport públic i la indústria en funcionament mentre es tancaven tots els bars. Opino que la mesura de monitoritzar els moviments de la població arriba tard i és insuficient, perquè ja hi ha hospitals col·lapsats i falta material. Tot i així, com a mesura em sembla vàlida. Una llei que no és capaç de forçar el seu compliment no serveix per a res. Aquesta sembla una mica orwelliana, però té sentit que es controli la quarentena perquè és una situació molt extremada. També espero que quan tot això passi, el control s’aturi. I això sospito que no passarà, perquè lamentablement trobaran nous motius per fer-ho.

La Intel·ligència Artificial, la ciència de dades i la tecnologia tenen un paper determinant en rastrejar i combatre la pandèmia del coronavirus

El món ha emmalaltit. L’últim dia d’hivern tanca amb més de 259.000 casos confirmats per coronavirus i 11.250 morts, i els mitjans de comunicació ens recorden a tothora que no hem tocat sostre. Però enmig de les males notícies, una d’esperançadora. Aquesta setmana, la Xina, on es va originar la pandèmia, ha registrat per primer cop zero contagis locals. I el robust sector tecnològic de la segona potència mundial hi ha tingut un paper determinant. Concretament, la Intel·ligència Artificial (IA), la ciència de dades i la tecnologia per rastrejar i combatre el Covid-19. Per exemple, un sistema de control que utilitza dades massives (Big Data) per identificar i avaluar el risc de cada individu en funció del seu historial de viatges o la possible exposició a persones portadores del virus.

El gegant asiàtic, però, també ha fet ús del vessant més polèmic de la tecnologia. El sofisticat sistema de vigilància del règim de Xi Jinping s’ha servit del reconeixement facial i de programari de detecció de temperatura per identificar persones que tenen febre o més probabilitats de patir el virus. Fins i tot va proporcionar a la policia de la regió de Sichuan cascos intel·ligents per identificar persones amb temperatura elevada. Mentre l’exigència de la privadesa en el tractament de les dades personals guanya pes arreu, és sabut que a la Xina la protecció de la informació personal decau en l’escala de prioritats. 

IA per predir un brot

Tot i així, la Intel·ligència Artificial pot ajudar-nos en aquest gran repte que tenim al davant d’una manera menys problemàtica. Per exemple, l’IA es fa servir per detectar l’afectació del Covid-19, pot guiar el desenvolupament de fàrmacs o identificar, rastrejar i pronosticar els brots. De fet, abans que es fessin públics els primers casos de coronavirus, la Intel·ligència Artificial ja ho sabia. El 31 de desembre, un algoritme desenvolupat per una empresa canadenca especialitzada en avaluar el risc de malalties infeccioses, BlueDot, ja havia descobert el brot i avisat de la notícia als seus clients, segons Wired, deu dies abans que l’Organització Mundial de la Salut (OMS) donés l’avís.

D’aquesta manera, el sistema de BlueDot proporciona una vigilància centralitzada de malalties partint de més de 10.000 fonts -documents governamentals, notícies publicades en webs informatius i diaris en més de 65 idiomes diferents-, permet conèixer la probabilitat que arribi una malaltia infecciosa a un indret determinat i envia notificacions personalitzades dels brots, segons l’interès del client. Així, per exemple, un algoritme llegeix notícies publicades en mitjans locals que mencionen casos de grip, morts sense una explicació aparent i símptomes que no s’ubiquen en un diagnòstic concret, tant en humans com en animals, i utilitza aquesta informació per a fer una predicció.

L’empresa també té accés a dades globals de bitllets d’avió, que poden ajudar a predir cap a on i quan viatgen els residents infectats, i quantes persones volen amb ells. És així com la companyia va predir correctament que el coronavirus saltaria de Wuhan a Bangkok, Seül, Taipei i Tòquio els dies següents a la seva aparició inicial. Una vegada l’IA ha fet la seva feina, els epidemiòlegs verifiquen si les conclusions tenen sentit des d’un punt de vista científic, i envien un informe als funcionaris de salut pública. I aquesta no és la primera vegada que BlueDot té èxit: ja va predir el brot de Zika al sud de Florida en una publicació a la revista mèdica britànica The Lancet.

IA per ajudar a detectar l’afectació

Però per trobar eines útils no cal anar tan lluny. Una startup catalana, Citibeats, crea observatoris per a governs sobre el coronavirus. De moment, ha llançat observatoris ciutadans en 26 països de Llatinoamèrica, segons explica el director, Ivan Caballero, a Crónica Global. D’acord amb Caballero, ofereixen informació pública, gratuïta i en temps real sobre l’evolució del Covid-19 en diferents àrees territorials. Així, la Intel·ligència Artificial pot detectar en quins barris hi ha més necessitats, així com els canvis d’hàbits i comportaments que es produeixen. Segons el mateix mitjà, la startup es troba actualment en converses amb el Govern espanyol i amb la Generalitat de Catalunya sobre la possibilitat de crear un observatori sobre el coronavirus.

La startup valenciana Quibim ha desenvolupat un sistema d’Aprenentatge Profund (Deep Learning, o sigui, una xarxa neuronal artificial que emula el funcionament d’un cervell biològic per a fer tasques concretes) que determina l’afectació d’un pacient amb Covid-19 a partir d’imatges mèdiques. D’aquesta manera, no diagnostica el virus, però ajuda als metges a prendre la decisió d’hospitalitzar o no als contagiats. De fet, aquesta solució ja s’utilitza en alguns centres per valorar la gravetat d’un pacient amb símptomes i decidir si enviar-lo a casa o ingressar-lo, tal com explica el director de Quibim a El País Retina.

Un altre sistema que ajuda a diagnosticar la malatia és aquell que ofereix la multinacional Infervision, que ha llançat un sistema per assistir a metges i infermers per detectar i supervisar el Covid-19. Segons un altre article de Wired, un algoritme de la companyia s’ha utilitzat en 34 hospitals xinesos per detectar signes visuals de la pneumònia associada al virus SARS-Cov-2 en 32.000 radiografies pulmonars, tot i que el diagnòstic definitiu requereix detectar el virus en els fluids corporals. Tots aquests sistemes permeten alleugerir la immensa càrrega de feina dels professionals sanitaris i millora la velocitat de diagnòstic. 

Robots que desinfecten amb llum ultraviolada

A les màquines no els preocupa contagiar-se, de manera que són els éssers ideals per netejar i esterilitzar espais en temps de confinament. Els robots de Blue Ocean Robotics tenen com a objectiu prevenir i reduir la propagació de virus, bacteris i altres microbis descomposant la seva estructura d’ADN utilitzant llum ultraviolada.

Per la seva banda, BenevolentAI utilitza Intel·ligència Artificial per crear medicines que puguin combatre les malalties més agressives. Actualment recolza els esforços per tractar el Covid-19. Segons Forbes, durant les setmanes posteriors al brot va utilitzar les seves capacitats de predicció per examinar l’afinitat de tots els fàrmacs aprovats per identificar aquells que tenen propietats antivíriques i antiinflamatòries, útils per combatre o mitigar els efectes del coronavirus.

Així doncs, la Intel·ligència Artificial s’ha unit a la lluita contra una pandèmia que ens ha tancat a casa i ha paralitzat el frenètic ritme de vida del planeta. Per ara, però, el principal problema és que aquests sistemes necessiten una sèrie de dades que, o bé encara s’estan generant, o bé no resulten completament accessibles. Tot i que BlueDot va predir el brot deu dies abans que fos anunciat per l’OMS, empreses com aquesta no solen revelar a qui proporcionen la informació ni com l’utilitzen. A més, també és cert que sovint la publicitat entorn les capacitats de la IA supera la realitat. Confiar-hi massa podria provocar la presa de decisions incorrectes, tenint en compte que els algoritmes poden contenir biaixos i no ser infalibles.

Queden poc més de vint dies perquè la nova presidenta de la Comissió Europea (CE), Ursula von der Leyen, compleixi una de les grans promeses: una regulació més dura per a l’ús de la Intel·ligència Artificial (IA) abans dels cent primers dies de mandat. Segons Bloomberg, que va tenir accés a un esborrany de la normativa, el braç executiu de la Unió Europea (UE) estudia noves obligacions per a les autoritats públiques amb relació a l’IA i, entre altres mesures, es planteja la prohibició del reconeixement facial durant cinc anys amb la finalitat de buscar solucions que rebaixin els riscos que comporta aquesta tecnologia.

Segons Bloomberg, un portaveu de la CE va dir que la UE vol definir ara un projecte legislatiu propi, amb “perspectiva europea” i “humana”. O sigui, allunyada del camí que han seguit els Estats Units, la Xina o el Japó; els seus grans competidors en la cursa de les superpotències per liderar el camp de la Intel·ligència Artificial. Una regulació on l’ètica, la confiança i la seguretat dels ciutadans siguin al centre de l’estratègia.

Però aquesta proposta normativa no és el primer que veurà la llum. A l’octubre del 2018, es va aprovar la Declaració sobre Ètica i Protecció de Dades en Intel·ligència Artificial, i a l’abril del 2019, un grup d’experts d’alt nivell de la Comissió Europea va fer públiques les seves Directrius Ètiques per a una IA Confiable (Ethics Guidelines for Trustworthy AI). Aquest projecte, però, no va convèncer a tothom. Ni tan sols a tots els experts que van firmar el document.

Veus crítiques

El 8 d’abril del 2019, un dels 52 membres de la comissió d’experts va denunciar en un article allò que considerava un “blanquejament ètic” de les directrius que, en un principi, havien d’establir unes línies roges per a la Intel·ligència Artificial al vell continent. Així, Thomas Metzinger, professor de filosofia de la Universitat de Mainz, Alemanya, assegura a Der Tagesspiegel que “la història de la Intel·ligència Artificial confiable és una narrativa publicitària inventada per la indústria, un conte per anar a dormir per als clients del futur”.

“El relat de la Intel·ligència Artificial de confiança pretén eixamplar els mercats futurs i utilitzar els debats sobre Ètica com un bell decorat públic per a una estratègia d’inversió a gran escala”, prosegueix Metzinger. Explica, a més, que la seva tasca a la comissió passava per desenvolupar els principis ètics no negociables sobre els usos de la IA a Europa -per exemple, l’ús d’armes automàtiques letals o la puntuació social de ciutadans per part de l’Estat-, fins que l’expresident de Nokia i també membre del grup d’experts, Pekka Ala-Pietilä, li va demanar educadament que retirés l’expressió “no negociable” del document. Més tard, altres membres de la comissió i representants de la indústria, van insistir amb vehemència que s’eliminés del text el concepte de “línies roges” i que, com a molt, es parlés de “preocupacions crítiques”. I així s’hi va reflectir.

“La indústria organitza i conrea debats ètics per adquirir temps, distreure el públic i evitar o endarrerir la regulació”, conclou Metzinger. Afegeix, en aquest sentit, que als polítics també solen constituir comitès d’ètica perquè “els dona un curs d’acció quan, en realitat, no saben què fer”. De la mateixa manera, el professor assenyala que Facebook va finançar un institut per formar ètics de l’IA, mentre Google va intentar constituir un marc ètic contractant els filòsofs Joanna Bryson i Luciano Floridi, essent aquest darrer membre del grup d’experts. Un fet que hauria pogut donar a Google la possibilitat de conèixer de primera mà les restriccions per a l’IA que es gestaven a la comissió.

Tanmateix, la de Metzinger no va ser l’única veu que es va alçar. El desembre de l’any passat, un exinvestigador del Massachusetts Institute of Technology (MIT), Rodrigo Ochigame, denunciava a The Intercept que Silicon Valley pagava estudis sobre ètica de la Intel·ligència Artificial per impedir la seva regulació i que, per tant, la recerca esdevenia una “tapadora” destinada a “blanquejar” aquesta tecnologia.

La intrusió dels gegants

Ochigame assegura que la majoria dels treballs finançats al voltant de la recerca en Intel·ligència Artificial Ètica “està aliniada estratègicament amb el lobby tecnològic que busca evitar restriccions per al desplegament de tecnologies controvertides”. En aquest sentit, l’exinvestigador esmenta les grans empreses que han abanderat uns principis ètics basats en estudis desenvolupats i finançats pel MIT i altres universitats punteres que van rebre diners de la indústria de la tecnologia per treballar en aquest camp.

L’exestudiant també revela els vincles entre les grans tecnològiques i els instituts de recerca en l’àmbit de l’Ètica. Així, per exemple, Ochigame escriu que “el Data & Society Research Institute està dirigit per un investigador de Microsoft i finançat inicialment per una subvenció Microsoft; l’AI Institute de la Universitat de Nova York va ser cofundat per un altre investigador de Microsoft i parcialment finançat per Microsoft, Google i DeepMind; l’Stanford Institute for Human-Centered AI està codirigit per un exvicepresident de Google; a la Universitat de Califòrnia, la divisió de Ciències de les Dades de Berkeley està encapçalada per un veterà de Microsoft; i el MIT Schwarzman College of Computing està dirigit per un membre del consell d’Amazon”.

Ochigame hi afegeix que el camp de l’Ètica també s’ha fet important per a l’exèrcit nord-americà, no només pel que fa a les preocupacions sobre les polèmiques armes autònomes letals, sinó també pel que fa a les disputes entre empreses de Silicon Valley sobre certs contractes militars altament lucratius. L’1 de novembre, el Consell d’Innovació del Departament de Defensa va publicar les seves recomanacions sobre Principis Ètics de l’IA. L’exinvestigador assenyala que el consell està dirigit per Eric Schmidt, que era el president executiu d’Alphabet, la matriu de Google.

Preguntes sense resposta

Qui decideix quan s’ha d’utilitzar IA, amb quines finalitats, i qui i com la desenvolupa? Aquestes són les preguntes que han de marcar una via ètica independent, segons l’informe Automating Society d’Algorithm Watch, i que el Parlament Europeu va recolzar quan subratllava la importància d’una mirada social, moral i responsable en el desplegament de la Intel·ligència Artificial. I aquesta és la línia pròpia que la Comissió Europea s’ha plantejat empènyer. Però… es prendrà l’ètica seriosament, Europa? O caldrà esperar més per a això (quan potser sigui massa tard)?