D’aquesta manera, Facebook explica en un comunicat que suprimirà o etiquetarà els vídeos fets amb la intenció d’enganyar; o sigui, aquelles falsificacions que als ulls de qualsevol persona podrien semblar reals, només si han estat fets amb Intel·ligència Artificial.

La companyia, això sí, explica que no implementarà una política de retirada general dels vídeos manipulats marcats com a falsos pels verificadors (fact-checkers). D’aquesta manera, la nova directriu no s’aplicarà als vídeos satírics, ni als que només s’ha canviat l’ordre dels mots o s’han suprimit. Així, l’empresa de Mark Zuckerberg no prohibirà un vídeo com el de la presidenta de la Cambra de Representants dels Estats Units, Nancy Pelosi, que va editar-se (sense fer servir IA) per fer com si anés borratxa, i que va fer-se viral l’estiu passat.

Les reaccions al vídeo de Pelosi van ser diverses. Uns, condemnaren Facebook per no prohibir el vídeo. Altres, argumentaren que eliminar-lo assentava un perillós precedent per censurar paròdies polítiques o dissidents.

Sens dubte, els vídeos falsos, editats amb eines a l’abast de la majoria, constitueixen una amenaça important per als polítics immersos en una cursa electoral, per exemple. Però la pregunta, aleshores, és: qui decideix què és satíric i què és enganyós? On és la línia que separa aquestes dues categories? Cal prohibir els vídeos falsos que mostren, posem per cas, una falsa declaració racista? I això, Facebook, no ho aclareix.

Pablo Casado dona vida al coronel Hannibal, Pablo Iglesias es transforma -amb melena inclosa- en Amanda Allen, Pedro Sánchez encarna el tinent Templeton Peck, Santiago Abascal interpreta a B.A. Baracus, mentre Albert Rivera hi apareix com el capità Murdock.

És el dotzè vídeo del canal de Youtube ‘Face to Fake’, que utilitza la Intel·ligència Artificial per a divertir els espectadors, tal com s’autodefineixen els creadors. I sembla que ho han aconseguit. Els vídeos manipulats no són novetat, tot i que sorprèn el realisme que guanyen dia a dia. Altres canals de Youtube, com Ctrl Shift Face, van més enllà i modifiquen la cara dels actors a temps real.

No tot són rialles

Més enllà de les sàtires, la mateixa tecnologia dels Deepfakes té usos professionals i Hollywood ja les fa servir per rejovenir actors. Allò cert, però, és que els Deepfakes han emergit de la cara més fosca d’Internet, on s’utilitzen sobretot per a falsificacions pornogràfiques. A més a més, es fan servir per a falsejar notícies. De fet, els vídeos manipulats han aterrat a les xarxes socials amb més pena que glòria. Facebook i Twitter van bullir quan Obama pronuncià una frase capaç de generar rius de polèmica: “El president Trump és totalment idiota”. En realitat, mai ho va dir.

Altres personatges famosos com Donald Trump o l’actriu Scarlett Johansson han estat blancs d’imatges manipulades que han aixecat polseguera i s’han viralitzat tan bon punt s’han fet públics. Parlem de vídeos que mostren gestos, expressions i moviments que, pel seu realisme, arriben a confondre l’espectador. I tenen tots els números de convertir-se en la nova gran font de desinformació.

Com es genera un Deepfake?

Els Deepfakes es creen mitjançant algoritmes d’Intel·ligència Artificial que observen i registren patrons de moviment del rostre d’algú a partir d’un vídeo real i, després, els recreen utilitzant les faccions de la cara d’algú altre que han memoritzat prèviament. El terme “Deep” fa referència al concepte del “Deep Learning” (Aprenentatge Profund, en català), una família d’algoritmes d’Aprenentatge Automàtic (Machine Learning, en anglès) que s’inspira en el funcionament del cervell humà.

Existeix algun sistema fiable per detectar els vídeos manipulats? La investigació es desplega a les millors universitats i als departaments de recerca de les grans empreses tecnològiques però, de moment, els algoritmes de detecció no estan tant perfeccionats com per enxampar-los tot d’una. De fet, Facebook va admetre el setembre que no era capaç d’identificar els Deepfakes més sofisticats perquè la tecnologia que els produeix millora massa ràpid.

En aquest context, hi ha més preguntes que respostes: Com frenar les mentides, si corren més que les veritats? Fins a quin punt poden arribar a perfeccionar-se els Deepfakes? Què passarà quan es viralitzi la imatge d’un líder polític cometent un acte deshonest, però no es pugui saber si és real o fals? Quins continguts es viralitzaran quan tothom pugui fer vídeos falsos des de qualsevol ordinador?

De moment, la legislació no és clara sobre els Deepfakes, tot i que un grapat d’Estats ja han pres partit. Fa menys d’una setmana que Califòrnia ha il·legalitzat la creació i la distribució de Deepfakes amb l’argument de protegir els votants de la desinformació.

Al febrer, la companyia del propietari de Tesla, Elon Musk, anunciava la creació d’un generador intel·ligent de text model d’Intel·ligència Artificial capaç de generar escrits artificials pràcticament indistingibles dels que hauria escrit un humà. Al mateix article, però, els autors mostraven preocupació per la possibilitat que l’eina es fes servir de manera maliciosa, i van considerar que era “massa perillosa” per alliberar-la. Segons els investigadors, podia utilitzar-se per generar ràpidament grans quantitats de text de tota mena com notícies falses o propaganda ideològica, i fins i tot imitar un estil de redacció i fer-se passar per algú en concret.

Per aquest motiu, durant els últims mesos, OpenAI ha seguit una estratègia de publicació per etapes, alliberant-ne versions reduïdes cada pocs mesos, i observant l’ús que se’n feia. La publicació d’aquesta setmana ha estat la darrera d’aquest procés i, en un comunicat, els autors deixen clar que no han observat “cap mal ús evident” dels models alliberats fins ara.

Una nova generació de models

El polèmic model forma part d’una nova família de generadors de text basats en un concepte anomenat ‘Transformer’, que han demostrat ser altament efectius a l’hora de produir textos coherents rebent ben poca informació d’entrada. Per entrenar-lo, s’ha fet servir el text de més de 8 milions de pàgines web (és a dir, 40GB de text), optimitzant internament més de 1.500 milions de paràmetres en un procés d’Aprenentatge Profund (Deep Learning, en anglès). El model sencer ha estat publicat al repositori de GitHub d’OpenAI, on hi trobem tant el codi font com els seus paràmetres optimitzats, amb instruccions detallades de com fer-lo servir.

Però no només els programadors poden utilitzar-lo. Existeix, a més, una versió de prova en línia al web TalkToTransformer.com. En aquesta versió, l’usuari introdueix les primeres paraules o frases d’un text i el sistema és capaç de completar-lo de manera creativa, tot mantenint la coherència i l’estil de redacció. D’aquesta manera, si proporcionem les primeres paraules d’una història, el model n’escriu la continuació. Si escrivim un fragment de diàleg, l’eina estén la conversa i fins i tot hi introdueix nous personatges.

Però, tot i que el model pot produir grans resultats, no és perfecte. Després de diverses proves, alguns errors afloren i s’acaben produïnt diàlegs incoherents o sobtats canvis de tema.

Una publicació polèmica

Quan OpenAI va anunciar fa nou mesos que no faria públic el model definitiu, es va aixecar una gran polèmica, sobretot a les xarxes socials. Per un cantó, alguns argumentaven que no tenia sentit mantenir-lo en privat després de publicar els resultats, ja que qualsevol altre equip podia reproduir-los. Per contra, mantenir-lo en secret impedia que altres investigadors aprofundissin en la manera de pal·liar el possible mal ús de l’eina. Mentrestant, altres defensaven que en realitat s’havia presentat com a perillosa per seguir una estratègia de publicitat mitjançant la polèmica.

També n’hi havia que consideraven justificats els motius d’OpenAI per limitar la publicació, sobretot per la recent proliferació de DeepFakes i el seu ús maliciós. Al cap i a la fi, les disculpes de Jon Snow per la sisena temporada de Joc de Trons semblaven inofensives, però el vídeo d’Obama insultant Trump o el robatori de 220.000€ a una empresa alemanya per mitjà de la falsificació de la veu del director executiu resultaven més preocupants.

Conclusions d’OpenAI

Juntament amb el model GPT-2, OpenAI ha fet públiques les conclusions de l’estudi que ha desenvolupat durant els últims mesos, a mesura que anava publicant les diferents versions:

1. GPT-2 produeix resultats convincents. A mida que s’alliberaven les versions, la Universitat de Cornell feia enquestes per comprovar si els textos generats resultaven prou convincents. El model complet té una credibilitat de 6.91 sobre 10, mentre que les versions anteriors, més reduïdes, van tenir puntuacions d’entre 6.07 i 6.72.
2. GPT-2 pot ser modificat per fer-ne un mal ús. Investigadors del Middlebury Institute of International Studies’ Center on Terrorism, Extremism, and Counterterrorism (CTEC) han demostrat que el sistema es pot modificar per tal de generar massivament propaganda sintètica convincent enfocada a ideologies extremistes, com la supremacia blanca o el gihadisme islàmic. Tot i així, malgrat que els sistemes de detecció automàtics encara no són prou robustos, asseguren que el desenvolupament d’eines que assisteixin als humans a detectar textos sintètics és viable.
3. És difícil de detectar. OpenAI ha desenvolupat un altre model especialitzat en la detecció de textos generats per GPT-2. Aquest assoleix un encert del 95%, però els investigadors consideren que aquest resultat encara no és prou bo com per considerar que té prous garanties. Per aquest motiu, també han publicat el model de detecció, així com les dades que han fet servir per al seu desenvolupament, amb l’esperança que altres investigadors puguin millorar els seus resultats.
4. Encara no han detectat cap mal ús. Tot i que consideren que el sistema podria utilitzar-se amb males intencions, encara no han observat cap cas. A més, admeten que, tot i no fer públic el model complet, qualsevol interessat en fer-ne un mal ús podria reproduir els seus passos i generar la seva pròpia versió.
5. Cal estandaritzar l’estudi del biaix. OpenAI ha estat intentant avaluar si el model està esbiaixat i, per tant, pot generar textos amb desviacions ètiques per raons de gènere, raça o religió. Els investigadors han fet públics els resultats d’aquesta anàlisi, però també subratllen que és insuficient degut a l’absència de metodologies i marcs de treball estandarditzats per fer aquest tipus d’avaluacions.

Finalment, OpenAI remarca la necessitat de seguir treballant amb la comunitat científica per garantir una publicació responsable dels resultats, de cara a no facilitar el mal ús de models d’Intel·ligència Artificial com GPT-2.

Referències:

• https://www.theverge.com/2019/11/7/20953040/openai-text-generation-ai-gpt-2-full-model-release-1-5b-parameters
• https://openai.com/blog/gpt-2-1-5b-release/
• https://openai.com/blog/better-language-models/
• https://talktotransformer.com/
• https://github.com/openai/gpt-2
• https://github.com/openai/gpt-2-output-dataset

Si no fos per les notícies falses, potser Donald Trump no seria president i Gran Bretanya no estaria a un pas d’abandonar la Unió Europea. Així ho mostra el documental The Great Hack, que explica el paper de l’empresa Cambridge Analytica al tauler polític: va accedir a les dades de milions d’usuaris de Facebook i les va utilitzar per crear continguts a mida, sovint falsos, amb la intenció de manipular els votants. D’aquesta manera, primer predien la personalitat i les inclinacions dels usuaris i, després, els enviaven missatges personalitzats, per exemple qualificant a Hillary Clinton de corrupta, encara que no fos veritat.

I tot això passa a l’alba de la redacció intel·ligent, quan es multipliquen els sistemes de generació automàtica de text capaços de crear continguts d’allò més plausibles. LeoRobot és el primer del mercat que processa el llenguatge natural en castellà. I n’hi ha molts més, com Textio, AX Semantics o Talktotransformer, d’OpenAI, que originalment va ser considerat massa perillós per ser utilitzat pel públic.

De moment, Espanya té el dubtós honor de ser el país d’Europa on més proliferen les notícies falses. Segons un estudi, el 57% d’espanyols admet haver-se cregut alguna vegada una informació falsa, cosa que ens situa a la cinquena posició del marcador mundial. Un altre estudi sosté que, al 2022, la majoria consumirem més ‘fake news’ que informacions certes.

El decàleg

No ens ho posen fàcil ni l’allau d’informació diària que ens arriba, ni la impossibilitat de contrastar totes les dades, ni la rapidesa amb què tot circula a les xarxes socials, per on discorre un flux continu de notícies d’aparença neutre. En un escenari que és brou de cultiu per a les decisions basades en mentides, mantenir una mirada crítica és essencial:

1. Llegeix la notícia sencera i no et quedis amb el titular. No et creguis cap notícia immediatament, ni la comparteixis tan bon punt l’has rebuda.
2. Dubta de les notícies amb faltes d’ortografia o que no estan firmades.
3. Desconfia de les notícies que et produeixin un gran impacte emocional.
4. Descobreix la font. Desenvolupa l’hàbit d’investigar d’on ha sortit la informació. Quan una notícia és certa, és més probable que citi fonts, inclogui enllaços i citi documents oficials.
5. Esbrina l’autoria. Busca el nom del mitjà o l’autor a Google per veure què més ha escrit aquesta persona.
6. Busca el titular a Google. Si la notícia és certa, és probable que altres mitjans també l’hagin publicat. Si no hi és, cerca les paraules clau o el titular seguit de la paraula “bola”, “bulo” o “hoax” (en català, en castellà o en anglès, respectivament). Si es tracta d’una bola coneguda, apareixerà immediatament a la cerca.
7. Busca les dades que cita.
8. Verifica el context, com la data de publicació. Descontextualitzar una informació també és desinformar.
9. Si t’han enviat la notícia, pregunta a qui te l’ha fet arribar d’on l’ha tret.
10. Has rebut una imatge que conta una història? Fes una cerca inversa d’imatges i comprova si altres llocs l’han publicat.

Per altra banda, existeixen algunes eines per detectar continguts falsos. Per exemple, podem utilitzar ‘Fets o Fakes’, que és el propi servei de ‘fact-checking’ (verificació de fets) de Catalunya Ràdio. Està format per un equip transversal de periodistes del departament d’Informatius que cerquen les fonts primàries de la informació i qualsevol hi pot contactar enviant una petició al correu fetsofakes@ccma.cat o escrivint un WhatsApp al 677070940. Per altra banda, també trobem Verificat, una altra plataforma de ‘fact-checkin’ catalana. Davant d’una sospita, els ciutadans poden contactar-hi per Whatsapp al 666382694. Aleshores, Verificat busca l’origen de la notícia, pregunta a la font original, consulta fonts alternatives i contextualitza la informació. I encara tenim més eines al nostre abast. També ens pot ser útil la pàgina de denúncia de notícies falses Maldita.es, que fins i tot ofereix una extensió per alertar l’usuari quan navega per una pàgina poc fiable. A més, Wikitribune és un web de notícies on periodistes investiguen i informen sobre notícies i els voluntaris supervisen els articles. El Fake News Detector permet detectar i marcar les notícies falses, els pescaclics o les notícies extremadament esbiaixades. I el News Cracker és una tecnologia d’aprenentatge automàtic que permet puntuar de l’1 al 10 la qualitat de qualsevol article, contingut o publicació, en funció de la seva veracitat.

Pensament crític

Un pensament crític també és clau per evitar que ens colin mentides o mitges veritats. Però, per començar, hem de tenir en compte els nostres propis biaixos, i hem d’entendre que podem estar equivocats. Per això, és recomanable consultar diferents mitjans i no sempre el mateix, per evitar estancar-nos en una bombolla informativa. Al cap i a la fi, el nostre punt de vista pot no ser objectiu, ni l’únic vàlid al món. També pot ser útil valorar si una notícia afavoreix determinats interessos, i si l’argumentació està ben fonamentada o, al contrari, si amaga algun tipus de fal·làcia.

Som, en teoria, més lliures que mai i, no obstant, en la pràctica, som blancs d’intents constants de manipulació. “L’element principal del control social és l’estratègia de distracció, desviar l’atenció del públic de les qüestions determinants per les elits polítiques i econòmiques”, sostenia Noam Chomsky, que sintetitzà en un decàleg les estratègies més comunes dels mitjans de comunicació per modelar l’opinió pública. Velles tècniques que, malgrat tot, continuen fent-nos caure en l’engany.