La intel·ligència artificial és una branca de la informàtica aplicada al desenvolupament de màquines amb capacitat de simular conductes humanes o d’aproximar-s’hi, com ara el raonament, l’aprenentatge, el processament i la interpretació d’estímuls sensorials.  Així, es dedica al desenvolupament d’algorismes que permeten a un ordinador percebre el seu entorn lògic i prendre decisions amb la mínima intervenció humana, per maximitzar les seves possibilitats d’èxit en una o més tasques.

Tot i remuntar-se a la dècada dels anys 50, la intel·ligència artificial està més d’actualitat que mai per les aplicacions que tècniques com el reconeixement de veu i d’imatge, la traducció automàtica o la mateixa predicció de paraules tenen en l’àmbit de la comunicació entre els humans i les màquines. 

En aquest àmbit, és rellevant el procés de l’aprenentatge automàtic (en anglès, machine learning) dedicat a l’anàlisi, el disseny i el desenvolupament d’algorismes i tècniques que permeten que les màquines evolucionin, millorant el seu comportament a partir de l’estudi d’observacions o de les experiències pròpies.

En l’aprenentatge automàtic els dispositius treballen sobre grans volums de dades, hi identifiquen patrons de comportament i, sobre aquesta base, prediuen i suggereixen comportaments futurs. Aquesta possibilitat d’aplicar automàticament càlculs matemàtics complexos a dades massives (big data, en anglès) és un assoliment relativament recent que amplia el camp d’intervenció d’aquesta tècnica. 

Per exemple, la indústria financera l’utilitza per detectar oportunitats d’inversió i fer vigilància del frau. Els governs, per explotar les múltiples fonts de dades disponibles. La indústria de la salut ha desplegat dispositius i sensors que avaluen constants d’un pacient en temps real, i porten a la millora de diagnòstics i tractaments. I la indústria del màrqueting i les vendes, per analitzar historials de compra. 

I anant a un terreny més pràctic, són exemples concrets d’aplicació de l’aprenentatge automàtic la conducció autònoma que anuncia Google, les recomanacions en línia que ens fan Amazon o Netflix, a partir de l’anàlisi dels nostres patrons de comportament, o les alertes per detecció de fraus en ciberseguretat. 

Podeu consultar al Cercaterm,  el cercador terminològic del TERMCAT, les fitxes d’aquests termes catalans, i també trobareu al  canal Terminologia de les TIC  altres recursos d’aquest àmbit. 

Pablo Casado dona vida al coronel Hannibal, Pablo Iglesias es transforma -amb melena inclosa- en Amanda Allen, Pedro Sánchez encarna el tinent Templeton Peck, Santiago Abascal interpreta a B.A. Baracus, mentre Albert Rivera hi apareix com el capità Murdock.

És el dotzè vídeo del canal de Youtube ‘Face to Fake’, que utilitza la Intel·ligència Artificial per a divertir els espectadors, tal com s’autodefineixen els creadors. I sembla que ho han aconseguit. Els vídeos manipulats no són novetat, tot i que sorprèn el realisme que guanyen dia a dia. Altres canals de Youtube, com Ctrl Shift Face, van més enllà i modifiquen la cara dels actors a temps real.

No tot són rialles

Més enllà de les sàtires, la mateixa tecnologia dels Deepfakes té usos professionals i Hollywood ja les fa servir per rejovenir actors. Allò cert, però, és que els Deepfakes han emergit de la cara més fosca d’Internet, on s’utilitzen sobretot per a falsificacions pornogràfiques. A més a més, es fan servir per a falsejar notícies. De fet, els vídeos manipulats han aterrat a les xarxes socials amb més pena que glòria. Facebook i Twitter van bullir quan Obama pronuncià una frase capaç de generar rius de polèmica: “El president Trump és totalment idiota”. En realitat, mai ho va dir.

Altres personatges famosos com Donald Trump o l’actriu Scarlett Johansson han estat blancs d’imatges manipulades que han aixecat polseguera i s’han viralitzat tan bon punt s’han fet públics. Parlem de vídeos que mostren gestos, expressions i moviments que, pel seu realisme, arriben a confondre l’espectador. I tenen tots els números de convertir-se en la nova gran font de desinformació.

Com es genera un Deepfake?

Els Deepfakes es creen mitjançant algoritmes d’Intel·ligència Artificial que observen i registren patrons de moviment del rostre d’algú a partir d’un vídeo real i, després, els recreen utilitzant les faccions de la cara d’algú altre que han memoritzat prèviament. El terme “Deep” fa referència al concepte del “Deep Learning” (Aprenentatge Profund, en català), una família d’algoritmes d’Aprenentatge Automàtic (Machine Learning, en anglès) que s’inspira en el funcionament del cervell humà.

Existeix algun sistema fiable per detectar els vídeos manipulats? La investigació es desplega a les millors universitats i als departaments de recerca de les grans empreses tecnològiques però, de moment, els algoritmes de detecció no estan tant perfeccionats com per enxampar-los tot d’una. De fet, Facebook va admetre el setembre que no era capaç d’identificar els Deepfakes més sofisticats perquè la tecnologia que els produeix millora massa ràpid.

En aquest context, hi ha més preguntes que respostes: Com frenar les mentides, si corren més que les veritats? Fins a quin punt poden arribar a perfeccionar-se els Deepfakes? Què passarà quan es viralitzi la imatge d’un líder polític cometent un acte deshonest, però no es pugui saber si és real o fals? Quins continguts es viralitzaran quan tothom pugui fer vídeos falsos des de qualsevol ordinador?

De moment, la legislació no és clara sobre els Deepfakes, tot i que un grapat d’Estats ja han pres partit. Fa menys d’una setmana que Califòrnia ha il·legalitzat la creació i la distribució de Deepfakes amb l’argument de protegir els votants de la desinformació.

Aquest no és un cas aïllat. Dos anys després d’aquests fets, una investigació de Propublica va demostrar que el sistema tendia a assignar riscos molt més elevats a les persones de pell fosca que a les de pell blanca. Era el resultat d’allò que es coneix com a biaix predictiu; en aquest cas, racista.

D’on surt aquest biaix?

L’origen s’amaga en els principis més bàsics dels algoritmes predictius, també anomenats d’Aprenentatge Automàtic (Machine Learning, en anglès). Aquests algoritmes, actualment tant habituals, es basen en una anàlisis estadística de dades històriques, a partir de les quals s’extreuen patrons que més endavant serveixen per fer prediccions sobre noves dades. Com a conseqüència, si aquestes dades històriques contenen una representació esbiaixada de la realitat, les prediccions de l’algoritme predictiu reproduiran el mateix biaix.

Però això no és tot. L’estudi de Propublica va demostrar que la diferència a l’hora d’avaluar persones de colors diferents no s’explicava només per unes dades històricament esbiaixades, sinó que l’algoritme tendia a equivocar-se de manera diferent en funció de si examinava persones de pell negra o de pell blanca. Així, COMPAS va atribuir el doble de vegades un risc erròniament alt de reincidència als presos de pell negra; mentre va assignar un risc erròniament baix a molts més reclusos de pell blanca. Per tant, en aquest cas, la Intel·ligència Artificial no ajudava a mitigar les diferències racials inherents a les dades històriques, sinó que encara les potenciava més.

Per què? Propublica ressaltava que COMPAS no preguntava la raça del pres per formar l’algoritme. No obstant això, les variables que utilitzava per obtenir informació eren 137 preguntes personals sobre el detingut i el seu entorn, com “Els teus amics o familiars formen part de bandes criminals?” o “Has provat l’heroïna?”. Però el problema és que, als Estats Units, les diferències socials entre els col·lectius racials són prou importants com perquè es vegin reflectides en aquest tipus de respostes. Així, si s’evités proporcionar a l’algoritme dades que permeten deduir el color de pell, es quedaria sense informació per a fer prediccions amb precisió.

Conseqüències en el treball, en la salut, en l’amor

El cas de COMPAS no és una excepció, ja que els biaixos predictius són un fenomen inherent als algoritmes d’Intel·ligència Artificial, que són cada dia més freqüents al nostre entorn.

El 2014, Amazon va desenvolupar una eina intel·ligent per reclutar els millors treballadors. Un any més tard, la multinacional va adonar-se que als llocs tècnics no hi havia cap dona. La companyia va abandonar l’eina després que una auditoria interna trobés que els candidats homes havien obtingut més puntuació que les dones. Per què? Tal com expliquen Karma Peiró i Ricardo Baeza-Yates a Medium, les dades massives que serviren per nodrir l’algoritme de sel·lecció de personal es basaven en currículums rebuts durant l’última dècada, quan amb prou feines hi havia dones programadores. Quan el sistema automàtic detectava la paraula “dona” o un sinònim, la penalitzava i puntuava més baix.

En l’àmbit sanitari, als Estats Units s’utilitzen algoritmes per guiar algunes decisions mèdiques. El 25 d’octubre, la revista Science explicava que els models utilitzats per assignar cures als 100 milions de pacients nordamericans que pateixen malalties cròniques, com atacs de cor o diabetis, prioritzaven els pacients blancs en detriment dels negres, i rebien abans una assistència mèdica urgent.

Al llibre El Algoritmo del Amor, Judith Duportail explica que l’algoritme de Tinder classifica els usuaris segons la bellesa, el gènere, els estudis i la classe social. Duportail sosté que els homes amb més ingressos i nivell d’estudis tenen una gratificació i, en canvi, a les dones amb els mateixos atributs se les penalitza. Per això, considera que Tinder vol construir parelles desiguals en què l’home sempre sigui superior: amb més estudis, més ingressos i més edat. Com s’explica això? Per una banda, l’algoritme és el resultat d’una compilació de dades que ha tingut lloc dins una societat masclista i, per l’altra banda, segons l’autora del llibre, els programadors de l’aplicació han introduït els seus propis biaixos dins el programari. Com trencar aquest cercle viciós?

Algunes solucions

El Centre Tecnològic Eurecat, de la mà de la Universitat Pompeu Fabra (UPF) i la Universitat Tècnica de Berlín, ha creat un algoritme, anomenat FA*IR, per evitar la discriminació per raons de gènere, procedència o aparença física en cercadors de feina o de parella. FA*IR detecta els biaixos i els corregeix incorporant un mecanisme per a reordenar els resultats sense afectar la validesa del rànquing. Des de l’UPF, a més, proposen utilitzar els algoritmes de manera crítica i en col·laboració amb experts de l’àrea que correspongui.

Rachel Thomas, directora del Centre d’Ètica Aplicada a les Dades de la Universitat de San Francisco, recomana que cada conjunt de dades es presenti amb un document on s’hi descrigui com es va compilar. També aconsella especificar-hi qualsevol preocupació ètica o legal que hagi pogut sorgir durant el procés. Suggereix, tanmateix, que els equips incloguin gent diversa capaç d’advertir els diferents biaixos.

El 2017, l’Associació de Maquinària Informàtica (ACM) publicà un manifest en defensa de la transparència algorítimica i va establir set principis:

1. Consciència. Els creadors d’aquests sistemes han de ser conscients de la possibilitat que hi hagi biaixos en el seu disseny, implementació i ús.
2. Accés. Els reguladors han d’afavorir l’introducció de mecanismes perquè els individus i grups negativament afectats per decisions algorítmiques puguin qüestionar-les i rectificar-les.
3. Passar comptes. Les institucions han de ser responsables de les decisions de l’algoritme, encara que no puguin detallar com s’han pres.
4. Explicació. Les institucions que empren sistemes intel·ligents han de promoure la producció d’explicacions sobre els procediments i les decisions específiques que s’hi prenen.
5. Procedència de les dades. Les dades emprades per a l’entrenament han d’anar acompanyades d’una descripció del seu origen.
6. Auditabilitat. Models, dades i decisions han de quedar registrats perquè puguin auditar-se quan se sospita d’algun error.
7. Validació i proves. Les institucions han de fer proves rutinàries per a avaluar i determinar si el model genera discriminació.

Encara queda molt per fer

Malgrat els esforços, els biaixos algoritmics són entre els grans problemes de la comunitat científica. En alguns casos, les dades sovint reflecteixen diferències no atribuïbles a biaixos, sinó que són resultat d’una descripció objectiva de la realitat i no té sentit corregir-los. A vegades, però, aquests contrastos són producte de certes diferències històriques que cal pal·liar per construir una societat més justa. Tot plegat requereix una feina complexa però necessària per redefinir com conceptualitzem el món i, en conseqüència, com obtenim les dades. Al mateix temps, és urgent introduir l’Ètica a l’hora d’entrenar models intel·ligents que, de ben segur, tindran un gran impacte social.

Notes:

*COMPAS és l’acrònim de Correctional Offender Management Profiling for Alternative Sanctions, que en català es tradueix com a Perfilat per la Gestió Correctiva d’Infractors per Sancions Alternatives.