D’aquesta manera, Facebook explica en un comunicat que suprimirà o etiquetarà els vídeos fets amb la intenció d’enganyar; o sigui, aquelles falsificacions que als ulls de qualsevol persona podrien semblar reals, només si han estat fets amb Intel·ligència Artificial.

La companyia, això sí, explica que no implementarà una política de retirada general dels vídeos manipulats marcats com a falsos pels verificadors (fact-checkers). D’aquesta manera, la nova directriu no s’aplicarà als vídeos satírics, ni als que només s’ha canviat l’ordre dels mots o s’han suprimit. Així, l’empresa de Mark Zuckerberg no prohibirà un vídeo com el de la presidenta de la Cambra de Representants dels Estats Units, Nancy Pelosi, que va editar-se (sense fer servir IA) per fer com si anés borratxa, i que va fer-se viral l’estiu passat.

Les reaccions al vídeo de Pelosi van ser diverses. Uns, condemnaren Facebook per no prohibir el vídeo. Altres, argumentaren que eliminar-lo assentava un perillós precedent per censurar paròdies polítiques o dissidents.

Sens dubte, els vídeos falsos, editats amb eines a l’abast de la majoria, constitueixen una amenaça important per als polítics immersos en una cursa electoral, per exemple. Però la pregunta, aleshores, és: qui decideix què és satíric i què és enganyós? On és la línia que separa aquestes dues categories? Cal prohibir els vídeos falsos que mostren, posem per cas, una falsa declaració racista? I això, Facebook, no ho aclareix.

La guerra intel·ligent

Fa dos anys, 116 experts en el camp de la Intel·ligència Artificial reclamaven a les Nacions Unides que prohibís l’ús de robots soldat. En una carta advertien que “les armes autònomes letals -o sigui, armes que es disparen soles- fan possible que un conflicte armat es lliuri a una escala més gran que mai, i a intervals de temps tan ràpids que ni els humans podran comprendre”. La majoria d’Estats membres han recolzat públicament la prohibició del robot assassí. Tot i així, actualment s’oposen a vetar-los el Regne Unit, Israel, Austràlia, Rússia, Corea del Sud o els Estats Units. Dotzenes de startups privades venen el mite de la guerra intel·ligent i als seus laboratoris s’inventen noves formes més netes i eficaces de matar. L’assassinat, aquest divendres, del general iranià Soleimani, amb quatre míssils disparats des d’un dron nord-americà, és una prova més d’aquest procés. 

Actualment, el cap d’Intel·ligència Artificial del Pentàgon, Jack Shanahan, descarta per ara l’ús de soldats robot. Tot i així, Shanahan vol que l’IA ocupi un paper central en la lluita bèl·lica i l’Exèrcit ha estat provant el desembre una torreta automatitzada. Mentrestant, la Marina planeja fer servir vaixells no tripulats. Abans d’assumir el seu càrrec actual, Shahanan dirigia el Projecte Maven, que té com a objectiu desenvolupar drons intel·ligents per detectar les forces enemigues. Segons la revista Wired, el Pentàgon vol gastar-s’hi al voltant de 4.000 milions de dòlars durant l’exercici del 2020.

Una cosa queda clara: el govern nord-americà somia amb un exèrcit que utilitzi l’IA per moure’s més ràpid al camp de batalla. Però la integració militar de l’aprenentatge automàtic (Machine Learning) planteja molts dubtes. L’armament intel·ligent permet eixamplar la distància moral amb una escena bèl·lica, fent menys incòmoda la veritat: que en una guerra s’hi maten persones.

Robots sexuals

L’IA també ha entrat per la porta gran del negoci del sexe. Els robots sexuals intel·ligents ja no són ciència ficció i Sex dolls, una empresa que distribueix nines sexuals intel·ligents, assegura que “poden calibrar-se fàcilment per fer quasi totes les funcions imaginables”. A més, explica que també disposen de sensors integrats a les seves mans, als genitals, a la cara i als pits: “Això permet que el robot pugui sentir quan el toqueu”. Fins i tot poden suar, gemegar i lubricar-se, segons l’empresa. A més, les nines poden integrar-se amb la vida quotidiana i, tal com diu la companyia, ofereixen diferents modes: familiar, romàntic o sexy.

La introducció de la tecnologia en les relacions sexuals no és cap novetat, però aquesta vegada el realisme de l’objecte marca la diferència. Alguns autors fins i tot han plantejat obrir un debat sobre els drets dels robots, com a éssers simbòlics i semblants als humans. Mentrestant, altres defensen que l’ús dels ninots sexuals intel·ligents no va més enllà d’una masturbació assistida. Ara bé, els grans problemes arriben quan aquests robots -realistes- perpetuen els estereotips de gènere: potencien els clixés? O -encara pitjor- si els robots s’assemblen a menors d’edat: afavoreixen les conductes pedòfiles? Per altra banda, poden contribuir en la cosificació de la dona i, per tant, normalitzar la cultura de la violació. Com influeix allò simbòlic, com el físic d’un androide, en el món real?

Generació d’informació massiva

Durant els darrers anys hi ha hagut una explosió de ‘papers’ sobre les Xarxes Generatives Adversàries (també anomenades GAN, segons les sigles de Generative Adversarial Network), que utilitzen l’aprenentatge profund (Deep Learning) per generar imatges, vídeos o àudios hiperrealistes de manera totalment artificial.

Els GAN, en alguns casos, persegueixen fins inofensius, com rejovenir actors de cinema o fer vídeos còmics, però també poden utilitzar-se per a generar els anomenats Deepfakes, sovint falsificacions malintencionades amb conseqüències preocupants. Artistes com Scarlett Johansson o Katy Perry foren víctimes d’una sèrie de vídeos pornogràfics falsos que circularen el 2019 per Internet. Però els Deepfakes també podrien servir per implicar algú en un crim que no ha comès, falsejar notícies o manipular l’opinió pública durant unes eleccions. La polèmica va inundar les xarxes socials quan Obama va deixar anar que “el president Trump és totalment idiota”. Una afirmació que, en realitat, mai va fer.

Més enllà de les imatges, els generadors de textos intel·ligents també penetren al mercat. El nivell de sofisticació d’alguns sistemes és tan gran que ja hi ha hagut polèmica per l’ús d’IA en la redacció d’un text presentat a un concurs de literatura. Durant la propera dècada, el futur del periodisme o la redacció de continguts -sobretot les branques menys creatives- es desdibuixa i planteja encara més dubtes.

També és possible crear Deepfakes d’àudio, que obren horitzons igual d’inquietants. A través d’aquest sistema, uns estafadors van falsificar la veu d’un executiu en una trucada de telèfon, aconseguint robar 243.000 dòlars a través d’un empleat que pensava que rebia instruccions del director de l’empresa.

Existeix algun sistema fiable per detectar els àudios, vídeos i textos manipulats? La investigació es desplega a les millors universitats i als departaments de recerca de les grans empreses tecnològiques i, tanmateix, els algoritmes de detecció encara no són capaços d’enxampar les falsificacions de manera immediata. De fet, Facebook va admetre el setembre que no era capaç d’identificar els Deepfakes més sofisticats perquè la tecnologia que els produeix millora massa ràpid. En un esforç per combatre la proliferació dels vídeos enganyosos, Facebook, Microsoft i acadèmics de les universitats més punteres, com la d’Oxford o el MIT, encapçalen el ‘Deepfake Challenge‘ per impulsar la investigació i assegurar el desenvolupament d’eines de codi obert per la detecció de vídeos sintètics. La companyia de Mark Zukerberg ha destinat més de 10 milions de dòlars per animar a la participació: un senyal del valor de l’operació.

Màquines que treballen

El 2020, hi haurà molts àmbits professionals on s’aplicarà l’IA per primer cop. Els supermercats i les petites botigues comencen a implementar sistemes de predicció de demanda, segons les dades d’allò que van vendre en determinada data. La Intel·ligència Artificial revolucionarà la logística de les empreses, i ho farà també amb l’educació, la justícia i la medicina.

Els metges s’estan bolcant en l’aprenentatge automàtic per recolzar la presa de certes decisions. Aquest nou any, ajudarà a molts professionals sanitaris a fer diagnòstics de malalties de manera automàtica. De fet, un programa informàtic ja pot diagnosticar càncer de mama de manera més acurada, eficient i ràpida que un oncòleg a partir d’una mamografia. Algunes teràpies conductuals basades en els smartphones ofereixen la promesa de tractar la depressió, els transtorns alimentaris o l’abús d’alguns fàrmacs.

Per altra banda, a les presons catalanes ja fa una dècada que es fan servir algoritmes de presa de decisions per calcular les possibilitats de reincidència dels que surten en llibertat. L’IA també pot ser utilitzada per predir crims. L’anomenada ‘policia predictiva’ és capaç d’identificar la data, l’hora i l’ubicació en què és més probable que es produeixin certs delictes, per tal que els agents prioritzin aquestes zones i franges temporals. A més, després d’unes quantes investigacions, els models analítics predictius s’han perfeccionat molt i de ben segur que seran utilitzats ben aviat a casa nostra.

En l’àmbit educatiu, algunes facultats estan començant a guardar les dades acadèmiques i no acadèmiques dels estudiants. Sistemes d’IA són utilitzats per desenvolupar un perfil d’aprenentatge personalitzat en funció de la capacitat, l’experiència i la modalitat preferida d’estudi. Els educadors comencen a utilitzar els assistents de veu com l’Amazon Alexa, Google Home o Apple Siri, que permeten als estudiants interactuar amb material educatiu sense la intervenció del professor. Utilitzar sistemes intel·ligents a escoles i instituts pot incrementar l’eficiència de moltes institucions educatives i abaixar els costos.

Biaixos i caixes negres

De moment, però, els sistemes l’IA no són perfectes i poden cometre errors. Greus. Si un ordinador s’entrena amb un conjunt de dades suficient i fiable, els resultats poden ser de gran ajuda. Però, en canvi, si s’alimenta amb informació deficient i esbiaixada, o el sistema no es programa adequadament, els resultats poden conduir a l’equívoc o, en el pitjor dels casos, a la discriminació i a la desigualtat. Algunes investigacions han destapat que certs sistemes per predir la reincidència dels presos tendien a assignar riscos molt més elevats a les persones de pell fosca que a les de pell blanca. Quin és el problema? Si les dades que alimenten un algoritme contenen una representació esbiaixada de la realitat, les prediccions de l’algoritme predictiu reproduiran el mateix biaix.

Un altre gran escull dels sistemes intel·ligents és allò que es coneix com el problema de la ‘caixa negra’: quan l’IA pren decisions que cap ésser humà pot explicar. Abans podiem rastrejar les resolucions que una màquina adoptava gràcies a un determinat codi. Però ara, els enfocaments complexos de l’aprenentatge automàtic poden fer que la presa de decisions automatitzada sigui completament inescrutable. La Intel·ligència Artificial aprèn per sí mateixa i genera respostes i decisions que l’intel·lecte humà mai podrà concebre, a velocitats fora del nostre abast.

El 2015, un grup de recerca d’un hospital de Nova York va aplicar l’aprenentatge profund a la seva base de dades (de 700.000 registres de pacients). El sistema va descobrir patrons ocults en les dades que semblaven anticipar sorprenentment bé l’aparició de trastorns psiquiàtrics com l’esquizofrènia, que és molt difícil de predir. El coordinador de l’equip mèdic es pregunta com és possible, i encara no ho sap.

El problema de la caixa negra és més perillós en l’àmbit de la Defensa, per exemple. Per això, correspon a les administracions públiques buscar assessorament expert independent i ser transparents en les seves polítiques i la presa de decisions, de manera que les comunitats puguin tenir confiança en què la tecnologia no oferirà resultats esbiaixiats o vulnerarà la sobirania dels professionals de carn i ossos.

Pablo Casado dona vida al coronel Hannibal, Pablo Iglesias es transforma -amb melena inclosa- en Amanda Allen, Pedro Sánchez encarna el tinent Templeton Peck, Santiago Abascal interpreta a B.A. Baracus, mentre Albert Rivera hi apareix com el capità Murdock.

És el dotzè vídeo del canal de Youtube ‘Face to Fake’, que utilitza la Intel·ligència Artificial per a divertir els espectadors, tal com s’autodefineixen els creadors. I sembla que ho han aconseguit. Els vídeos manipulats no són novetat, tot i que sorprèn el realisme que guanyen dia a dia. Altres canals de Youtube, com Ctrl Shift Face, van més enllà i modifiquen la cara dels actors a temps real.

No tot són rialles

Més enllà de les sàtires, la mateixa tecnologia dels Deepfakes té usos professionals i Hollywood ja les fa servir per rejovenir actors. Allò cert, però, és que els Deepfakes han emergit de la cara més fosca d’Internet, on s’utilitzen sobretot per a falsificacions pornogràfiques. A més a més, es fan servir per a falsejar notícies. De fet, els vídeos manipulats han aterrat a les xarxes socials amb més pena que glòria. Facebook i Twitter van bullir quan Obama pronuncià una frase capaç de generar rius de polèmica: “El president Trump és totalment idiota”. En realitat, mai ho va dir.

Altres personatges famosos com Donald Trump o l’actriu Scarlett Johansson han estat blancs d’imatges manipulades que han aixecat polseguera i s’han viralitzat tan bon punt s’han fet públics. Parlem de vídeos que mostren gestos, expressions i moviments que, pel seu realisme, arriben a confondre l’espectador. I tenen tots els números de convertir-se en la nova gran font de desinformació.

Com es genera un Deepfake?

Els Deepfakes es creen mitjançant algoritmes d’Intel·ligència Artificial que observen i registren patrons de moviment del rostre d’algú a partir d’un vídeo real i, després, els recreen utilitzant les faccions de la cara d’algú altre que han memoritzat prèviament. El terme “Deep” fa referència al concepte del “Deep Learning” (Aprenentatge Profund, en català), una família d’algoritmes d’Aprenentatge Automàtic (Machine Learning, en anglès) que s’inspira en el funcionament del cervell humà.

Existeix algun sistema fiable per detectar els vídeos manipulats? La investigació es desplega a les millors universitats i als departaments de recerca de les grans empreses tecnològiques però, de moment, els algoritmes de detecció no estan tant perfeccionats com per enxampar-los tot d’una. De fet, Facebook va admetre el setembre que no era capaç d’identificar els Deepfakes més sofisticats perquè la tecnologia que els produeix millora massa ràpid.

En aquest context, hi ha més preguntes que respostes: Com frenar les mentides, si corren més que les veritats? Fins a quin punt poden arribar a perfeccionar-se els Deepfakes? Què passarà quan es viralitzi la imatge d’un líder polític cometent un acte deshonest, però no es pugui saber si és real o fals? Quins continguts es viralitzaran quan tothom pugui fer vídeos falsos des de qualsevol ordinador?

De moment, la legislació no és clara sobre els Deepfakes, tot i que un grapat d’Estats ja han pres partit. Fa menys d’una setmana que Califòrnia ha il·legalitzat la creació i la distribució de Deepfakes amb l’argument de protegir els votants de la desinformació.