L’obsolescència programada s’ha convertit en una especialitat de Microsoft, i té molt a veure amb la posició hegemònica de l’empresa

El 14 de gener, Microsoft anunciava la fi del suport per a un dels seus sistemes operatius més exitosos, Windows 7. Des d’aleshores, ja no es reparen els errors que es descobreixen i, per tant, ja no és segur continuar utilitzant-lo. Per això, Windows ofereix dues opcions: o bé pagar pel suport durant tres anys més, o bé actualitzar de manera gratuïta a Windows 10. De fet, els sistemes operatius de Microsoft són, amb gran diferència, els més habituals del planeta -quasi un 90% dels usuaris fan servir alguna variant de Windows, com es pot comprovar a la gràfica de Stadista. Però aquest gegant tecnològic no té el quasi-monopoli dels sistemes operatius per casualitat. Ni tan sols per la qualitat del seu software. Si el seu fundador, Bill Gates, és un habitual de la llista dels més rics del món, es deu més aviat a l’ús de pràctiques èticament qüestionables -i algunes sancionades- per atrapar a milions d’usuaris i ofegar la competència.

La versió oficial diu que Windows ha evolucionat gràcies a haver llançat noves versions cada pocs anys, i que mantenir-les totes seria logísticament impossible. Per això, amb el pas del temps, Microsoft abandona les versions més antigues per centrar els esforços en les actuals. Però també hi ha veus crítiques, com l’investigador informàtic Roberto Di Cosmo, que també és director de l’Innovation and Research Initiative for Free Software (IRILL). Des de fa dues dècades, ha dedicat diversos estudis i un llibre al sistema operatiu més popular, a qui qualifica d’especialista en l’obsolescència programada. A les pàgines de Hijacking the World: The Dark Side of Microsoft, Di Cosmo vincula la caducitat del seu programari amb la posició hegemònica que ha aconseguit.

Les tàctiques de Microsoft

Segons l’investigador, els editors de software com Microsoft tenen dues maneres de fer créixer els beneficis: o incrementar la quota de mercat o, quan el mercat ja està saturat pels seus productes, intentar vendre més i més, sovint als mateixos clients. “Per això necessiten crear noves versions dels seus programes tan sovint com sigui possible i que han de semblar diferents, tot i que continguin poques novetats realment útils”, escriu. I afegeix: “Pitjor encara, per assegurar-se que els seus usuaris no baixen del tren, Microsoft manté com a ostatges les seves dades: això vol dir que simplement han de comprar les versions més noves dels seus programes si volen continuar intercanviant informació amb altres persones”.

Bill Gates s’ha presentat sempre com la veu de la competitivitat, però Microsoft ha utilitzat totes les armes per eliminar qui podia fer-li ombra. La tàctica més coneguda va ser la imposició per contracte d’oferir només els seus productes als grans fabricants d’ordinadors com Compaq, Dell o Gateaway. La companyia fins i tot va requerir a tots els distribuïdors d’ordinadors IBM o compatibles amb IBM que preinstalessin els seus programes a tots els equips que venien: primer, amb MS-DOS i, després, amb Windows. 

A més, la mena de contracte que va signar amb els grans fabricants de hardware implicava una taxa de llicència per processador. Així, IBM o Compaq havien de pagar un cànon fixat per cada equip que venien, tant si l’usuari final volia tenir-hi o no instal·lat DOS o Windows. En conseqüència, al distribuïdor li interessava instal·lar Windows enlloc d’un altre sistema operatiu més car. I, per tant, a l’usuari final tampoc li resultava pràctic desinstal·lar DOS o Windows, perquè, tanmateix, ja l’havia pagat.

Cap a l’any 2000, Microsoft va intentar controlar el mercat no només acaparant els sistemes operatius de tots els ordinadors, sinó també conquerint les activitats estratègiques, com navegar per Internet. L’autor recorda que els navegadors rivals, com Netscape Navigator, no funcionaven bé perquè el contingut online estava optimitzat només per a Internet Explorer, el seu propi. “Microsoft va aconseguir convèncer els proveïdors que el seu navegador és l’estàndard i que és del seu interès adaptar totes les webs només per a aquest navegador”, escriu Di Cosmo. 

La companyia també s’ha desfet de petits potencials competidors assumint la seva tecnologia, per exemple, copiant-la descaradament per integrar-la a les pròpies solucions. Això va succeir amb Stac, que va dissenyar el software de compressió de disc dur Stacker. Va aconseguir demostrar que era així i va guanyar una demanda contra Microsoft. 

La Comissió Europea sanciona Microsoft

Les pràctiques monopolistes de Microsoft també van arribar a la Comissió Europea (CE), que el 2000 va començar a investigar el gegant tecnològic per dos motius: la manca d’informació per assegurar la interoperabilitat -o sigui, la compatibilitat d’aquest sistema operatiu amb altres components de hardware-, i la incorporació del Windows Media Player, que requeria un esquema de llicències incompatible amb el Software Lliure. Va caler esperar quatre anys perquè la CE resolgués que la companyia de Bill Gates havia comès, efectivament, tots dos abusos i li va imposar una multa de 497,2 milions de dòlars.

Segons Di Cosmo, a més, en aquell temps era pràcticament impossible comprar un ordinador sense Windows, tenint en compte que els fabricants de hardware no tenien marges de benefici gaire alts. Allò cert és que la majoria dels seus guanys derivaven del software, que pràcticament no té cost de fabricació, tenint en compte que un cop fet un programa -amb un cost que pot ser relativament alt-, es pot copiar de manera gratuïta o descarregar-se per Internet. L’investigador també subratllava les sospites d’alguns fabricants que Microsoft amenaçava amb represàlies a aquells qui volien anar per lliure. 

L’alternativa: el software lliure

El terme de ‘Programari Lliure’ (que prové de l’anglès Free Software) va ser encunyat el 1985 per Richard Stallman, aleshores investigador del MIT, que potseriorment va crear l’ONG Free Software Foundation. L’organització té l’objectiu de garantir la llibertat d’executar el programari, estudiar-lo i modificar-lo sense impediments. Per això va crear el sistema operatiu GNU (l’acrònim de ‘GNU is Not Unix’) i la Llicència Pública GNU, donant protecció legal a aquest model de software i, d’aquesta manera, fent possible la creació de Linux, el sistema operatiu de codi obert més conegut i usable. El programari lliure implica que els usuaris tenen quatre llibertats essencials: la d’executar el programa, la d’estudiar i modificar-ne el codi font, la de redistribuir còpies exactes i la de distribuir versions modificades.

A Mallorca, l’associació Bulma difón l’esperit del software lliure i la seva idea fonamental: “El coneixement ha de ser per tots”. El president de l’entitat, Daniel Ripoll, defensa la ‘cultura hacker’, és a dir, del repte intel·lectual de superar creativament les limitacions dels sistemes operatius. Entre altres accions, Bulma ha fet un recopilatori de distribuïdors de hardware compatible amb el software lliure. “Fer servir un o altre sistema operatiu ha de ser una decisió teva”, subratlla Ripoll.

Però Bulma no defensa Windows, ni tampoc l’altra gran companyia de software privatiu: “Apple es va apropiar un poc de la ‘cultura hacker’, però mai ha arribat a alliberar el codi realment”. Amb tot, segons Ripoll, fins i tot és més privatiu que Windows amb les llicències: “Si tens una aplicació mòbil i vols publicar-la a l’Apple Store amb una llicència GPL [de l’anglès General Public Licence], que és una de les més lliures que hi ha, no la publiquen”, es queixa Ripoll, que opta pel Linux.

De fet, Apple acaba de ser sancionada per un cas flagrant d’obsolescència programada. La Direcció General de Competència, Consum i Prevenció de Frau a França ha multat la firma nord-americana amb 25 milions d’euros fer més lents els iPhones més antics. És més, la pròpia companyia va reconèixer el 2017 que alentia alguns models antics d’iPhone amb la finalitat de prolongar la vida útil dels aparells. Tot i així, França ha resolt que els consumidors no n’estaven informats i ha avalat les sospites d’aquells qui creien que Apple ho feia perquè es compressin un mòbil nou.

L’evolució de Linux

El 1991, Linus Torvalds, estudiant de la Universitat de Hèlsinki, de només 21 anys, va utilitzar les eines GNU per escriure Linux. A mesura que el seu projecte avançava, Torvalds va publicar en línia el seu codi font, de manera que va poder ser acabat i revisat pels millors programadors del món. Aquest programari gratuït, que avui dia està disponible per a PC, Mac i altres tipus d’equips, ha anat guanyant reputació. 

Linux ha creat els efectes especials de pel·lícules com Titanic i gestiona la distribució de correspondència a l’Oficina de Correus dels Estats Units des de fa més de vint anys. Segons Stadista, ja es fa servir a un 13% dels servidors de tot el món, tot i que altres fonts eleven la xifra i compten que Linux manté una posició dominant als servidors d’Internet públics. I no només això. Aquest sistema operatiu ja s’utilitza de manera habitual en disciplines tècniques a universitats i centres d’investigació de tot el planeta. Administracions públiques d’Amèrica del Nord i de la Unió Europea estan fent la transició a Linux per la seva estabilitat i obertura del codi font que, al seu torn, és més segur. Espanya va atrevir-se a implementar les distribucions LinEx i Guadalinux el 2003 i 2004, mentre Barcelona va anunciar el 2018 que passaria tota la seva infrastructura a Linux. 

Els esdeveniments PyData, organitzats per la mateixa comunitat de desenvolupadors i usuaris, es fan amb l’objectiu de compartir el coneixement i plantejar idees. A més, la xarxa global PyData promou la discussió de bones pràctiques, nous enfocaments i tecnologies emergents per a la gestió de dades en el camp de la recerca i les ciències de la computació. Per això, els PyData constitueixen un fòrum ideal per debatre obertament el cantó positiu i el cantó fosc de les disciplines vinculades amb les Dades Massives (Big Data).

La Cultura del Software Lliure

El terme de ‘Programari Lliure’ (que prové de l’anglès Free Software) va ser encunyat el 1985 per Richard Stallman, aleshores investigador del MIT, que potseriorment va crear l’ONG Free Software Foundation. L’organització té l’objectiu de garantir la llibertat d’executar el programari, estudiar-lo i modificar-lo sense impediments. Independentment de la llicència i el llenguatge, els desenvolupadors de programari lliure creen, comparteixen i modifiquen el codi font junts. I treballar un codi de manera conjunta significa moltes coses: transparència, franquesa i cooperació són paraules que sovint esmenten els desenvolupadors. A diferència de les aplicacions privades, que impedeixen verificar si el seu funcionament real es correspon de manera exacta amb allò exposat en la descripció, el codi obert permet la seva revisió per part de la comunitat.

La guerra intel·ligent

Fa dos anys, 116 experts en el camp de la Intel·ligència Artificial reclamaven a les Nacions Unides que prohibís l’ús de robots soldat. En una carta advertien que “les armes autònomes letals -o sigui, armes que es disparen soles- fan possible que un conflicte armat es lliuri a una escala més gran que mai, i a intervals de temps tan ràpids que ni els humans podran comprendre”. La majoria d’Estats membres han recolzat públicament la prohibició del robot assassí. Tot i així, actualment s’oposen a vetar-los el Regne Unit, Israel, Austràlia, Rússia, Corea del Sud o els Estats Units. Dotzenes de startups privades venen el mite de la guerra intel·ligent i als seus laboratoris s’inventen noves formes més netes i eficaces de matar. L’assassinat, aquest divendres, del general iranià Soleimani, amb quatre míssils disparats des d’un dron nord-americà, és una prova més d’aquest procés. 

Actualment, el cap d’Intel·ligència Artificial del Pentàgon, Jack Shanahan, descarta per ara l’ús de soldats robot. Tot i així, Shanahan vol que l’IA ocupi un paper central en la lluita bèl·lica i l’Exèrcit ha estat provant el desembre una torreta automatitzada. Mentrestant, la Marina planeja fer servir vaixells no tripulats. Abans d’assumir el seu càrrec actual, Shahanan dirigia el Projecte Maven, que té com a objectiu desenvolupar drons intel·ligents per detectar les forces enemigues. Segons la revista Wired, el Pentàgon vol gastar-s’hi al voltant de 4.000 milions de dòlars durant l’exercici del 2020.

Una cosa queda clara: el govern nord-americà somia amb un exèrcit que utilitzi l’IA per moure’s més ràpid al camp de batalla. Però la integració militar de l’aprenentatge automàtic (Machine Learning) planteja molts dubtes. L’armament intel·ligent permet eixamplar la distància moral amb una escena bèl·lica, fent menys incòmoda la veritat: que en una guerra s’hi maten persones.

Robots sexuals

L’IA també ha entrat per la porta gran del negoci del sexe. Els robots sexuals intel·ligents ja no són ciència ficció i Sex dolls, una empresa que distribueix nines sexuals intel·ligents, assegura que “poden calibrar-se fàcilment per fer quasi totes les funcions imaginables”. A més, explica que també disposen de sensors integrats a les seves mans, als genitals, a la cara i als pits: “Això permet que el robot pugui sentir quan el toqueu”. Fins i tot poden suar, gemegar i lubricar-se, segons l’empresa. A més, les nines poden integrar-se amb la vida quotidiana i, tal com diu la companyia, ofereixen diferents modes: familiar, romàntic o sexy.

La introducció de la tecnologia en les relacions sexuals no és cap novetat, però aquesta vegada el realisme de l’objecte marca la diferència. Alguns autors fins i tot han plantejat obrir un debat sobre els drets dels robots, com a éssers simbòlics i semblants als humans. Mentrestant, altres defensen que l’ús dels ninots sexuals intel·ligents no va més enllà d’una masturbació assistida. Ara bé, els grans problemes arriben quan aquests robots -realistes- perpetuen els estereotips de gènere: potencien els clixés? O -encara pitjor- si els robots s’assemblen a menors d’edat: afavoreixen les conductes pedòfiles? Per altra banda, poden contribuir en la cosificació de la dona i, per tant, normalitzar la cultura de la violació. Com influeix allò simbòlic, com el físic d’un androide, en el món real?

Generació d’informació massiva

Durant els darrers anys hi ha hagut una explosió de ‘papers’ sobre les Xarxes Generatives Adversàries (també anomenades GAN, segons les sigles de Generative Adversarial Network), que utilitzen l’aprenentatge profund (Deep Learning) per generar imatges, vídeos o àudios hiperrealistes de manera totalment artificial.

Els GAN, en alguns casos, persegueixen fins inofensius, com rejovenir actors de cinema o fer vídeos còmics, però també poden utilitzar-se per a generar els anomenats Deepfakes, sovint falsificacions malintencionades amb conseqüències preocupants. Artistes com Scarlett Johansson o Katy Perry foren víctimes d’una sèrie de vídeos pornogràfics falsos que circularen el 2019 per Internet. Però els Deepfakes també podrien servir per implicar algú en un crim que no ha comès, falsejar notícies o manipular l’opinió pública durant unes eleccions. La polèmica va inundar les xarxes socials quan Obama va deixar anar que “el president Trump és totalment idiota”. Una afirmació que, en realitat, mai va fer.

Més enllà de les imatges, els generadors de textos intel·ligents també penetren al mercat. El nivell de sofisticació d’alguns sistemes és tan gran que ja hi ha hagut polèmica per l’ús d’IA en la redacció d’un text presentat a un concurs de literatura. Durant la propera dècada, el futur del periodisme o la redacció de continguts -sobretot les branques menys creatives- es desdibuixa i planteja encara més dubtes.

També és possible crear Deepfakes d’àudio, que obren horitzons igual d’inquietants. A través d’aquest sistema, uns estafadors van falsificar la veu d’un executiu en una trucada de telèfon, aconseguint robar 243.000 dòlars a través d’un empleat que pensava que rebia instruccions del director de l’empresa.

Existeix algun sistema fiable per detectar els àudios, vídeos i textos manipulats? La investigació es desplega a les millors universitats i als departaments de recerca de les grans empreses tecnològiques i, tanmateix, els algoritmes de detecció encara no són capaços d’enxampar les falsificacions de manera immediata. De fet, Facebook va admetre el setembre que no era capaç d’identificar els Deepfakes més sofisticats perquè la tecnologia que els produeix millora massa ràpid. En un esforç per combatre la proliferació dels vídeos enganyosos, Facebook, Microsoft i acadèmics de les universitats més punteres, com la d’Oxford o el MIT, encapçalen el ‘Deepfake Challenge‘ per impulsar la investigació i assegurar el desenvolupament d’eines de codi obert per la detecció de vídeos sintètics. La companyia de Mark Zukerberg ha destinat més de 10 milions de dòlars per animar a la participació: un senyal del valor de l’operació.

Màquines que treballen

El 2020, hi haurà molts àmbits professionals on s’aplicarà l’IA per primer cop. Els supermercats i les petites botigues comencen a implementar sistemes de predicció de demanda, segons les dades d’allò que van vendre en determinada data. La Intel·ligència Artificial revolucionarà la logística de les empreses, i ho farà també amb l’educació, la justícia i la medicina.

Els metges s’estan bolcant en l’aprenentatge automàtic per recolzar la presa de certes decisions. Aquest nou any, ajudarà a molts professionals sanitaris a fer diagnòstics de malalties de manera automàtica. De fet, un programa informàtic ja pot diagnosticar càncer de mama de manera més acurada, eficient i ràpida que un oncòleg a partir d’una mamografia. Algunes teràpies conductuals basades en els smartphones ofereixen la promesa de tractar la depressió, els transtorns alimentaris o l’abús d’alguns fàrmacs.

Per altra banda, a les presons catalanes ja fa una dècada que es fan servir algoritmes de presa de decisions per calcular les possibilitats de reincidència dels que surten en llibertat. L’IA també pot ser utilitzada per predir crims. L’anomenada ‘policia predictiva’ és capaç d’identificar la data, l’hora i l’ubicació en què és més probable que es produeixin certs delictes, per tal que els agents prioritzin aquestes zones i franges temporals. A més, després d’unes quantes investigacions, els models analítics predictius s’han perfeccionat molt i de ben segur que seran utilitzats ben aviat a casa nostra.

En l’àmbit educatiu, algunes facultats estan començant a guardar les dades acadèmiques i no acadèmiques dels estudiants. Sistemes d’IA són utilitzats per desenvolupar un perfil d’aprenentatge personalitzat en funció de la capacitat, l’experiència i la modalitat preferida d’estudi. Els educadors comencen a utilitzar els assistents de veu com l’Amazon Alexa, Google Home o Apple Siri, que permeten als estudiants interactuar amb material educatiu sense la intervenció del professor. Utilitzar sistemes intel·ligents a escoles i instituts pot incrementar l’eficiència de moltes institucions educatives i abaixar els costos.

Biaixos i caixes negres

De moment, però, els sistemes l’IA no són perfectes i poden cometre errors. Greus. Si un ordinador s’entrena amb un conjunt de dades suficient i fiable, els resultats poden ser de gran ajuda. Però, en canvi, si s’alimenta amb informació deficient i esbiaixada, o el sistema no es programa adequadament, els resultats poden conduir a l’equívoc o, en el pitjor dels casos, a la discriminació i a la desigualtat. Algunes investigacions han destapat que certs sistemes per predir la reincidència dels presos tendien a assignar riscos molt més elevats a les persones de pell fosca que a les de pell blanca. Quin és el problema? Si les dades que alimenten un algoritme contenen una representació esbiaixada de la realitat, les prediccions de l’algoritme predictiu reproduiran el mateix biaix.

Un altre gran escull dels sistemes intel·ligents és allò que es coneix com el problema de la ‘caixa negra’: quan l’IA pren decisions que cap ésser humà pot explicar. Abans podiem rastrejar les resolucions que una màquina adoptava gràcies a un determinat codi. Però ara, els enfocaments complexos de l’aprenentatge automàtic poden fer que la presa de decisions automatitzada sigui completament inescrutable. La Intel·ligència Artificial aprèn per sí mateixa i genera respostes i decisions que l’intel·lecte humà mai podrà concebre, a velocitats fora del nostre abast.

El 2015, un grup de recerca d’un hospital de Nova York va aplicar l’aprenentatge profund a la seva base de dades (de 700.000 registres de pacients). El sistema va descobrir patrons ocults en les dades que semblaven anticipar sorprenentment bé l’aparició de trastorns psiquiàtrics com l’esquizofrènia, que és molt difícil de predir. El coordinador de l’equip mèdic es pregunta com és possible, i encara no ho sap.

El problema de la caixa negra és més perillós en l’àmbit de la Defensa, per exemple. Per això, correspon a les administracions públiques buscar assessorament expert independent i ser transparents en les seves polítiques i la presa de decisions, de manera que les comunitats puguin tenir confiança en què la tecnologia no oferirà resultats esbiaixiats o vulnerarà la sobirania dels professionals de carn i ossos.

Montesquieu, Kant i Sartre són de primer curs de Filosofia però, fins el 1966, algunes de les seves obres van formar part dels Llibres Prohibits de l’Església. La purga d’escrits que induïen a la crítica també va ser bandera del franquisme, que vetà 1984 d’Orwell o el Quixot de Cervantes mentre, alhora, se servia d’un control estricte de la ràdio i la televisió. La censura ens ha perseguit des de temps remots, però ha canviat el canal: Internet és el gran camp de batalla de la censura, que al 2019 es regula per decret reial. 

Un estudi de la Freedom House alerta que governs de tot el món han concentrat dràsticament els esforços per manipular els mitjans de comunicació durant el 2018. I al mateix temps creixen, segons l’ONG, noves fórmules de censura: el control estatal de la connectivitat mòbil, la limitació de vídeos de reproducció instantània o ‘en streaming’, ciberatacs contra opositors i defensors dels drets, noves restriccions de les Xarxes Privades Virtuals (VPN), així com, directament, represàlies i detencions de crítics, activistes i periodistes. Cadascuna és més distòpica que l’anterior i, malauradament, no ens queden tan lluny. Quins mecanismes de censura digital s’han fet servir, a Catalunya i l’Estat espanyol? Quins altres mecanismes de bloqueig en línia existeixen i on s’han produït?

Espanya

Avui, a Espanya, l’Independentisme és la principal diana de la censura digital. El nou Reial Decret 14/2019 permetrà tancar webs sense audiència prèvia i, com va alertar l’associació Críptica, prendre el control de la xarxa tecnològica quan l’Estat ho consideri oportú. Una normativa cosida a mida per esmorteir les mobilitzacions que han fet bullir els carrers després de la sentència del Procés, però que permetrà, per exemple, desconnectar de la xarxa als participants d’una manifestació en qualsevol zona concreta de l’Estat espanyol. El decret, també batejat com a “155 digital”, obliga així mateix a passar pel sedàs del govern central els sistemes de firma electrònica propis, com l’IdentiCAT.

Sempre hi ha una fórmula

La Censura digital adquireix ara rang de llei. Però això ja ho vam veure a l’1-O, quan va enredar-se amb el Codi Penal. El 13 de setembre del 2017, un jutge va fer tancar el web referendum.cat tot i que, poc després, Carles Puigdemont difonia a Twitter els clons de la pàgina que havia estat tancada. “És impossible posar portes al camp”, comentava l’aleshores president. I tenia raó: sempre hi ha una fórmula. 

La setmana següent, la Guàrdia Civil va arrestar Josep Masoliver, treballador de la Fundació puntCAT -una entitat privada sense filiació política que promou el domini .cat a Internet-. Tot i que va quedar en llibertat 48 hores després, ha estat finalment processat per voler assegurar l’accés a referendum.cat i altres pàgines vinculades a l’1-O. Mitjans de tot el món se’n van fer ressò: era Internet allò que estava en joc. Fins el 27 de setembre, més de 140 llocs web relacionats amb el referèndum van ser bloquejats i, després, continuà el bloqueig, que fins i tot va arribar al grup de Whatsapp de l’Assemblea Nacional Catalana (ANC) i Òmnium Cultural. 

La fotografia de la vergonya

Dos anys més tard, el Tsunami Democràtic lidera la resposta contra una sentència que ha fet estralls. Alguns experts, com Enric Luján, han vinculat el modus operandi d’aquest nou col·lectiu anònim amb l’arquitectura organitzativa i tecnològica de l’1-O. Després de la primera acció a l’aeroport, va començar la persecució i la censura dels canals de difusió del grup. Un nou joc del gat i la rata que ja es va viure l’1 d’Octubre, amb el tancament de pàgines webs que es tornaven a replicar de seguida. Més endavant, la Guàrdia Civil va enviar una petició de bloqueig a la plataforma GitHub de Microsoft, on s’allotjava el web i l’app del Tsunami. Després, l’empresa feia públic el missatge del cos policial, que apareixia al costat de peticions similars de Rússia i la Xina. La fotografia deixava en molt mal lloc l’Estat espanyol. 

El 18 d’octubre, el domini tsunamidemocratic.cat era bloquejat “gràcies a la col·laboració de les grans teleoperadores”, segons explicava el Tsunami en un comunicat. Alhora, recomanava descarregar la seva singular aplicació, concebuda per esquivar la censura, i animava a utilitzar una VPN. Però el servei més útil pel Tsunami ha estat sens subte Telegram, l’aplicació russa que el president Vladimir Putin va bloquejar perquè el seu director es va negar a col·laborar amb els serveis secrets. Des de Telegram, s’ha continuat permetent l’accés a l’app, que des d’aquesta setmana també és a la principal llista de noves aplicacions i serveis tecnològics, Product Hunt: un nou revés a la censura. 

Casos extrems

El país on va néixer Telegram és conegut per la seva relació íntima amb la censura. Al principi d’aquest mes, va entrar en vigor l’anomenada ‘llei d’Internet sobirana’, que estableix que l’Estat ja no necessita una autorització judicial ni contactar amb les teleoperadores per bloquejar qualsevol contingut d’Internet considerat sospitós. Putin justifica la mesura per la millora de la ciberseguretat, però els crítics temen que el Kremlin vol crear un firewall -’tallafocs’, en català- capaç de tallar completament les connexions del país amb la web mundial. Això ja ho va fer el govern de l’Iran, quan va deixar sense Internet a un pais de 80 milions de persones enmig d’unes protestes pel dràstic augment dels preus del combustible, on van ser disparats desenes de manifestants.

El Projecte Escut Daurat

El firewall és una realitat al país liderat per Xi Jinping, i és un cas extrem de censura digital. Per a executar-la, el govern utilitza des del 2003 el conegut com a ‘Gran Tallafocs’ o, com s’ha batejat oficialment, el ‘Projecte Escut Daurat’. El tallafocs xinès funciona interceptant els requeriments que envien els ordinadors dins de la xarxa a la Xina. El firewall els analitza i determina si els deixa passar. D’aquesta manera, recolzant-se en l’ús massiu de les noves tecnologies, Jinping ha aconseguit imposar un model de societat basat en el control estricte de la informació i els ciutadans.

Com funciona la censura digital?

Quan només se censuraven llibres o cadenes de ràdio i televisió, els mecanismes eren més senzills. Actualment, la complexitat de les tecnologies que fem servir per comunicar-nos a través de la xarxa, ha donat lloc a una sèrie de procediments cada cop son més enrevessats. Fem un repàs dels més habituals.

Proveïdors d’Internet (ISP)

Els casos més habituals requereixen la col·laboració de les empreses proveïdores d’Internet, o ISP per les sigles d’Internet Service Provider en anglès, com Telefonica o Orange. Aquestes companyies interfereixen en les comunicacions dels seus usuaris bloquejant o alterant el contingut que aquests reben als seus dispositius, sovint a conseqüència d’un requeriment judicial o d’una petició del govern.

• Filtratge d’IP: En els casos més senzills, el proveïdor bloqueja tota comunicació dels seus usuaris amb una adreça IP d’un servidor en particular. Recordem que una adreça IP és un codi numèric d’entre 4 i 12 dígits que identifica de manera única un servidor a Internet. Així doncs, bloquejant les comunicacions amb aquesta adreça, s’impedeix als usuaris accedir a qualsevol contingut o servei allotjat en aquell servidor, ja sigui una pàgina web, imatges, o un servei de correu electrònic. Aquest sistema s’hauria aplicat a Veneçuela per a impedir l’accés a imatges de Twitter o a Pastebin, una aplicació que permet pujar petits textos i que era utilitzada pels activistes d’Anonymous per a difondre maneres d’esquivar la censura.

• Filtratge de noms de domini: Quan s’introdueix un nom de domini com “tecnologa.cat” en un navegador web, el que fa aquest és demanar al DNS (Sistema de Noms de Domini) l’adreça IP corresponent per poder accedir al servidor i subministrar-ne el contingut. Si el DNS consultat pertany a l’ISP, aquest pot decidir no retornar la IP del servidor i bloquejar-ne així el contingut. En altres casos, en comptes d’evitar contestar, respondria una adreça IP alternativa en la que es mostra un missatge judicial. Dades de l’Observatori Obert d’Interferències de Xarxa (OONI) demostren que France Telecom Espanya i Euskaltel van adoptar aquesta tècnica per bloquejar llocs web relacionats amb el referèndum de Catalunya.

• Desconnexió total: En els casos més extrems, quan tots els altres sistemes fallen, el proveïdor d’internet pot optar per la solució més dràstica: deixar a tots els seus usuaris sense connexió a internet. Aquesta és una mesura extrema que s’ha aplicat en molt poques ocasions, normalment en un contextos de gran desestabilització del país. Els primers països a tancar l’accés a Internet per complet van ser Nepal el 2005 i Birmània el 2007. Egipte va tallar del tot l’accés a Internet durant la anomenada primavera àrab, entre el 27 de gener i el 2 de febrer de 2011. El cessament de l’activitat va ser absolut, encara que alguns usuaris van trobar maneres de sortejar-lo. Altres països que van emprar la mateixa tàctica van ser Líbia, amb talls intermitents, Bahrain (que va incrementar el seu filtratge, però no va tancar totalment l’accés a la xarxa) i Síria.

Proveïdors de Serveis

En altres casos, la censura no té res a veure amb el nostre proveïdor d’Internet o ISP, sinó que s’aplica per part d’alguna altra empresa que ofereix un servei a Internet. Quan això passa, l’empresa és l’encarregada de bloquejar certs continguts mentre continua oferint-ne d’altres amb normalitat. En alguns casos, cal un requeriment judicial o una petició del govern però, en altres casos, es vesteix amb l’excusa d’una violació dels termes d’ús.

• Catàlegs d’aplicacions: Alguns dels proveïdors que bloquegen els seus continguts són els catàlegs d’aplicacions com Google Play Store o Apple Store. Quan això passa, determinades aplicacions deixen d’estar-hi disponibles per descarregar. Recentment es van observar casos d’aquests quan Apple va eliminar una aplicació amb què els manifestants de Hong Kong coneixien l’ubicació de la Policia, o quan, fa tres setmanes, Quarz, portal de notícies amb sis anys de vida, desapareixia de l’App Store xinesa per la seva cobertura contínua sobre les protestes. Per altre cantó, l’app del Tsunami Democràtic no va arribar ni a donar-se d’alta al Play Store perquè s’assumia que Google la podia bloquejar.
  
• Xarxes Socials: Una altra de les més habituals és la censura en Xarxes Socials. A vegades, les xarxes com Twitter, Instagram o Facebook retiren continguts penjats per usuaris sota l’argument de que són inapropiats. En d’altres, els comptes dels usuaris poden arribar a ser suspesos de manera temporal o definitiva. Alguns cops, fins i tot, les Xarxes Socials ofereixen la possibilitat que els propis usuaris apliquin la censura a base de denunciar massivament i de manera sincronitzada a determinats perfils per violacions de les condicions d’ús. Per exemple, aquesta mateixa setmana, la plataforma Tiktok va haver de disculpar-se per haver bloquejat el compte d’una adolescent que denunciava la repressió dels uigurs als seus vídeotutorials de maquillatge.

Aquest no és un cas aïllat. Dos anys després d’aquests fets, una investigació de Propublica va demostrar que el sistema tendia a assignar riscos molt més elevats a les persones de pell fosca que a les de pell blanca. Era el resultat d’allò que es coneix com a biaix predictiu; en aquest cas, racista.

D’on surt aquest biaix?

L’origen s’amaga en els principis més bàsics dels algoritmes predictius, també anomenats d’Aprenentatge Automàtic (Machine Learning, en anglès). Aquests algoritmes, actualment tant habituals, es basen en una anàlisis estadística de dades històriques, a partir de les quals s’extreuen patrons que més endavant serveixen per fer prediccions sobre noves dades. Com a conseqüència, si aquestes dades històriques contenen una representació esbiaixada de la realitat, les prediccions de l’algoritme predictiu reproduiran el mateix biaix.

Però això no és tot. L’estudi de Propublica va demostrar que la diferència a l’hora d’avaluar persones de colors diferents no s’explicava només per unes dades històricament esbiaixades, sinó que l’algoritme tendia a equivocar-se de manera diferent en funció de si examinava persones de pell negra o de pell blanca. Així, COMPAS va atribuir el doble de vegades un risc erròniament alt de reincidència als presos de pell negra; mentre va assignar un risc erròniament baix a molts més reclusos de pell blanca. Per tant, en aquest cas, la Intel·ligència Artificial no ajudava a mitigar les diferències racials inherents a les dades històriques, sinó que encara les potenciava més.

Per què? Propublica ressaltava que COMPAS no preguntava la raça del pres per formar l’algoritme. No obstant això, les variables que utilitzava per obtenir informació eren 137 preguntes personals sobre el detingut i el seu entorn, com “Els teus amics o familiars formen part de bandes criminals?” o “Has provat l’heroïna?”. Però el problema és que, als Estats Units, les diferències socials entre els col·lectius racials són prou importants com perquè es vegin reflectides en aquest tipus de respostes. Així, si s’evités proporcionar a l’algoritme dades que permeten deduir el color de pell, es quedaria sense informació per a fer prediccions amb precisió.

Conseqüències en el treball, en la salut, en l’amor

El cas de COMPAS no és una excepció, ja que els biaixos predictius són un fenomen inherent als algoritmes d’Intel·ligència Artificial, que són cada dia més freqüents al nostre entorn.

El 2014, Amazon va desenvolupar una eina intel·ligent per reclutar els millors treballadors. Un any més tard, la multinacional va adonar-se que als llocs tècnics no hi havia cap dona. La companyia va abandonar l’eina després que una auditoria interna trobés que els candidats homes havien obtingut més puntuació que les dones. Per què? Tal com expliquen Karma Peiró i Ricardo Baeza-Yates a Medium, les dades massives que serviren per nodrir l’algoritme de sel·lecció de personal es basaven en currículums rebuts durant l’última dècada, quan amb prou feines hi havia dones programadores. Quan el sistema automàtic detectava la paraula “dona” o un sinònim, la penalitzava i puntuava més baix.

En l’àmbit sanitari, als Estats Units s’utilitzen algoritmes per guiar algunes decisions mèdiques. El 25 d’octubre, la revista Science explicava que els models utilitzats per assignar cures als 100 milions de pacients nordamericans que pateixen malalties cròniques, com atacs de cor o diabetis, prioritzaven els pacients blancs en detriment dels negres, i rebien abans una assistència mèdica urgent.

Al llibre El Algoritmo del Amor, Judith Duportail explica que l’algoritme de Tinder classifica els usuaris segons la bellesa, el gènere, els estudis i la classe social. Duportail sosté que els homes amb més ingressos i nivell d’estudis tenen una gratificació i, en canvi, a les dones amb els mateixos atributs se les penalitza. Per això, considera que Tinder vol construir parelles desiguals en què l’home sempre sigui superior: amb més estudis, més ingressos i més edat. Com s’explica això? Per una banda, l’algoritme és el resultat d’una compilació de dades que ha tingut lloc dins una societat masclista i, per l’altra banda, segons l’autora del llibre, els programadors de l’aplicació han introduït els seus propis biaixos dins el programari. Com trencar aquest cercle viciós?

Algunes solucions

El Centre Tecnològic Eurecat, de la mà de la Universitat Pompeu Fabra (UPF) i la Universitat Tècnica de Berlín, ha creat un algoritme, anomenat FA*IR, per evitar la discriminació per raons de gènere, procedència o aparença física en cercadors de feina o de parella. FA*IR detecta els biaixos i els corregeix incorporant un mecanisme per a reordenar els resultats sense afectar la validesa del rànquing. Des de l’UPF, a més, proposen utilitzar els algoritmes de manera crítica i en col·laboració amb experts de l’àrea que correspongui.

Rachel Thomas, directora del Centre d’Ètica Aplicada a les Dades de la Universitat de San Francisco, recomana que cada conjunt de dades es presenti amb un document on s’hi descrigui com es va compilar. També aconsella especificar-hi qualsevol preocupació ètica o legal que hagi pogut sorgir durant el procés. Suggereix, tanmateix, que els equips incloguin gent diversa capaç d’advertir els diferents biaixos.

El 2017, l’Associació de Maquinària Informàtica (ACM) publicà un manifest en defensa de la transparència algorítimica i va establir set principis:

1. Consciència. Els creadors d’aquests sistemes han de ser conscients de la possibilitat que hi hagi biaixos en el seu disseny, implementació i ús.
2. Accés. Els reguladors han d’afavorir l’introducció de mecanismes perquè els individus i grups negativament afectats per decisions algorítmiques puguin qüestionar-les i rectificar-les.
3. Passar comptes. Les institucions han de ser responsables de les decisions de l’algoritme, encara que no puguin detallar com s’han pres.
4. Explicació. Les institucions que empren sistemes intel·ligents han de promoure la producció d’explicacions sobre els procediments i les decisions específiques que s’hi prenen.
5. Procedència de les dades. Les dades emprades per a l’entrenament han d’anar acompanyades d’una descripció del seu origen.
6. Auditabilitat. Models, dades i decisions han de quedar registrats perquè puguin auditar-se quan se sospita d’algun error.
7. Validació i proves. Les institucions han de fer proves rutinàries per a avaluar i determinar si el model genera discriminació.

Encara queda molt per fer

Malgrat els esforços, els biaixos algoritmics són entre els grans problemes de la comunitat científica. En alguns casos, les dades sovint reflecteixen diferències no atribuïbles a biaixos, sinó que són resultat d’una descripció objectiva de la realitat i no té sentit corregir-los. A vegades, però, aquests contrastos són producte de certes diferències històriques que cal pal·liar per construir una societat més justa. Tot plegat requereix una feina complexa però necessària per redefinir com conceptualitzem el món i, en conseqüència, com obtenim les dades. Al mateix temps, és urgent introduir l’Ètica a l’hora d’entrenar models intel·ligents que, de ben segur, tindran un gran impacte social.

Notes:

*COMPAS és l’acrònim de Correctional Offender Management Profiling for Alternative Sanctions, que en català es tradueix com a Perfilat per la Gestió Correctiva d’Infractors per Sancions Alternatives.