Facebook eliminarà vídeos manipulats amb Intel·ligència Artificial (IA) per distorsionar la realitat, coneguts com a ‘deepfakes’, alguns dels quals són pràcticament indistingibles d’un vídeo real. Però… què són exactament els deepfakes? Tècnicament, són models matemàtics d’Aprenentatge Automàtic (Machine Learning) que analitzen milers de fotos d’una persona i aprenen a generar imatges amb la seva cara. Si això es fa per separat amb dues persones i es combinen els dos models, s’aconsegueix crear un model nou -o sigui, una imatge nova-, que és el deepfake.

D’aquesta manera, Facebook explica en un comunicat que suprimirà o etiquetarà els vídeos fets amb la intenció d’enganyar; o sigui, aquelles falsificacions que als ulls de qualsevol persona podrien semblar reals, només si han estat fets amb Intel·ligència Artificial.

La companyia, això sí, explica que no implementarà una política de retirada general dels vídeos manipulats marcats com a falsos pels verificadors (fact-checkers). D’aquesta manera, la nova directriu no s’aplicarà als vídeos satírics, ni als que només s’ha canviat l’ordre dels mots o s’han suprimit. Així, l’empresa de Mark Zuckerberg no prohibirà un vídeo com el de la presidenta de la Cambra de Representants dels Estats Units, Nancy Pelosi, que va editar-se (sense fer servir IA) per fer com si anés borratxa, i que va fer-se viral l’estiu passat.

Les reaccions al vídeo de Pelosi van ser diverses. Uns, condemnaren Facebook per no prohibir el vídeo. Altres, argumentaren que eliminar-lo assentava un perillós precedent per censurar paròdies polítiques o dissidents.

Sens dubte, els vídeos falsos, editats amb eines a l’abast de la majoria, constitueixen una amenaça important per als polítics immersos en una cursa electoral, per exemple. Però la pregunta, aleshores, és: qui decideix què és satíric i què és enganyós? On és la línia que separa aquestes dues categories? Cal prohibir els vídeos falsos que mostren, posem per cas, una falsa declaració racista? I això, Facebook, no ho aclareix.

En aquest vídeo, on es mostra com es fa un Deepfake, el secretari general de Vox, Javier Ortega Smith, es transforma en l’expresident de Ciutadans, Albert Rivera.

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps necessaris estan marcats amb *

Aquest lloc utilitza Akismet per reduir els comentaris brossa. Apreneu com es processen les dades dels comentaris.