Qui no ha tingut mai un amor platònic? Potser ens hem enamorat de qui coneixíem ben poc, de qui no ens feia cas o de qui, directament, no sabia que existíem. És un amor unilateral, no correspost. Mancat de reciprocitat. És més el desig d’una idea que no pas d’algú real. L’enamorament nascut a Internet també és idealista en el sentit platònic. Lligant a través de Tinder, Facebook o Instagram, la representació dels usuaris -sovint manipulada- guanya el rol protagonista i la veritat queda relegada al segon pla. A la xarxa, l’enginy per semblar interessant i desitjable és el catalitzador d’un públic voyeur i infinit que busca sense descans contactar amb els altres en un espai sense olfacte, ni paraules en viu, ni jocs de mirades. 

El jo

Internet va néixer amb la promesa de fer públic el coneixement. I en part, el somni s’ha fet realitat. Ara tenim més informació al nostre abast i, allò que és més important: podem compartir-la. Però ho podem fer en la mesura que hi estem registrats en pàgines i perfils socials centrats en la identitat individual: l’element bàsic que basteix tota l’estructura. “Com si ens haguessin donat uns prismàtics que convertissin tot el que veiem en un reflex de nosaltres mateixos”, escriu Jia Tolentino a ‘Falso Espejo’. I de l’anhel d’un Internet alliberador, hem quedat atrapats pel propi jo online -continua Tolentino-, mentre les plataformes que havien de connectar-nos, han passat a induir l’alienació a una escala massiva.

Algú sol fent petons a una pantalla ens pot fer riure, però també ens recorda que la xarxa és la finestra cap a un públic invisible i sense fons. La pressió és enorme. No podem dir-ho tot perquè el preu pot ser massa elevat (una possible condemna social). I, de la mateixa manera, no podem quedar malament a les fotos (quants futurs amants podem perdre?). I així, al despotisme dels cànons estètics s’hi suma l’encadenament a la pròpia representació, adverteix Ingrid Guardiola en aquest article. “El filtre Facetune és com fer-te cirurgia plàstica amb el mòbil”, conta una usuària que vol operar-se per ser com les seves selfies.  

Però… quin és el jo autèntic? Si més no, a la xarxa hi mostrem un jo polièdric: una identitat presumiblement coherent que ha de poder de ser vista per diferents persones amb una opinió imprevisible. Una imatge que servirà de mediació per a diverses relacions socials. Una representació a través de la qual plantegem preguntes com ‘us agrado?’ o ‘us agrado fent això?’. Però tot això ja ho trobàrem reflectit a l’art d’Andy Warhol, on l’obra perd importància i guanya rellevància l’autor. També Warhol va popularitzar la voluntat d’exhibir-se com un fenomen universal. Cert o no, ara en tenim les eines.

L’altre

És mala època per als qui volen lligar a la xarxa i no són fotogènics o no tenen gràcia per escriure punyents peus de foto. No tenir el do pot restar punts, i molts. En canvi, els més enginyosos seran els més presents als timelines -ajudats pels algoritmes-, els aspirants a influencer, els qui entren als somnis i autoprojeccions dels altres perquè, d’alguna manera, quasi sempre hi són presents: cada cop que obren l’Instagram. 

Cada cop més connectats i, tot i així, més sols, separats, alienats. I no és casualitat. Tal com revela Judith Duportail al seu estudi sobre Tinder, que plasma a El algoritmo del amor, el que pretén l’aplicació és que ens hi enamorem, sí, però que sempre hi acabem tornant. “És important recordar a tots els que utilitzen o han utilitzat aquest tipus d’aplicacions de dating que la soledat és una part important del seu bussiness plan”, va dir l’autora en una entrevista a l’Ara. 

La comunitat de fans de les estrelles porno de dibuixos animats com Projekt Melody, que s’ha convertit en tot un fenomen, podria entendre’s com la màxima expressió d’un cert platonisme. Entre els seguidors més fervents de Melody hi ha els anomenats ‘digisexuals’, que expressen la seva identitat sexual a través de la tecnologia. I, segons els fans, aquest és només el començament. Alguns sostenen que les dones virtuals són el futur, o sigui, una versió millorada de les de carn i ossos. “Bots not thots” (”Els robots no són promiscus”), escriuen alguns a les comunitats virtuals. I això cal llegir-ho com una clara mostra de misogínia. No és estrany que molts seguidors de Melody coincideixin als espais més foscos i masclistes d’Internet: les comunitats d’incels -una abreviació en anglès de ‘cèlibes involuntaris’. 

Mentrestant, la cantant hologramàtica Hatsune Miku omplia al gener el Sant Jordi Club a Barcelona. La influencer virtual Lil Miquela, que té quasi 2 milions de seguidors a Instagram, és l’esquer de campanyes publicitàries i marques de luxe internacionals. El petó virtual que es va fer amb la model Bella Hadid per a la marca Calvin Klein va donar la volta al món -sense estalviar-se la polèmica. 

Més enllà dels enamoraments online, el documental Meeting you, emès per la cadena MBC, mostra com una mare utilitza realitat virtual per acomiadar-se de la seva filla de 7 anys, morta quatre anys abans. La mare, amb les ulleres posades, parla amb la nena i li acaricia els cabells. Al final, la petita ofereix un ram de flors a la mare i s’estira al llit dient que està cansada i que l’estima. Tot seguit, es queda adormida, es transforma en una papallona blanca i se’n va volant amb delicadesa.

La mare va assegurar que la recreació de la filla -que va costar vuit mesos de feina- la va ajudar a superar el dol, tot i que a l’altra banda dels seus plors no hi havia ningú. Una mostra d’amor unilateral, sense receptor, sense retorn. Una experiència que recorda l’idealisme més extrem: el solipsisme de Berkeley, segons el qual la realitat es deriva de l’activitat de la pròpia ment i no hi ha res més enllà d’un mateix. El reportatge va desfermar el debat sobre les implicacions morals i psicològiques de retrobar-se amb éssers estimats que ja no hi són. 

La unió

Una app per lligar pot ajudar a socialitzar-se a qui ha perdut la xarxa social -la de debò. Potser les relacions de parella no han canviat tant, però amb Internet s’ha obert un món de possibilitats i hi ha més terreny per explorar. Coses bones, també n’hi ha. Tot i així, Judith Duportail conta que Tinder disposa d’un registre de 800 pàgines de cada usuari i que, al mateix temps, et classifica segons la bellesa, el gènere, els estudis i la condició sense que ho sàpigues. 

A més, la disponibilitat de tantes potencials parelles fa que les persones siguin menys receptives a continuar sortint amb algú amb qui no es van entusiasmar. Les cites s’han tornat més complicades per la gran quantitat de participants en el joc. El flirteig ha esdevingut un fi en si mateix. Segons un informe del Havas Group, més d’un terç de la població admet que està més interessada en rebre l’aprovació de la comunitat que a trobar un company sexual. I el 39% dels participants en la recerca -quasi 17.500 persones majors de 13 anys de 37 països diferents- admeten que, estant dins d’una relació, continuen oberts a trobar algú millor.

Si al món offline el físic, les feromones o els jocs de mirades juguen un paper clau, al món online, segons l’informe, molts usuaris s’han obsessionat amb la performance sexual, experimentant cada cop més ansietat davant el temor de no complir les expectatives durant l’encontre. En conseqüència, el sexe s’ha convertit en un esdeveniment atlètic que demana entrenament. Més d’un 40% dels participants en la recerca es van mostrar disposats a monitoritzar la seva activitat sexual per millorar-la.

Així, l’amor online s’ha objectivitzat i racionalitzat a mesura que la gent està cada cop més disposada a lliurar els desitjos a les dades i la tecnologia. Les aplicacions, els algoritmes i la intel·ligència artificial es consideren una bona manera d’optimitzar la cerca d’un amant.

El romanticisme no ha mort 

Tot i així, vuit de cada deu persones continuen convençudes que l’amor pot durar per sempre. I la majoria -dos terços dels homes i més de la meitat de les dones- creuen que sense una parella romàntica falta a la vida quelcom d’essencial. De fet, la noció d’amor etern és encara tan present que més d’un 40% prefereix romandre en una relació que no és del tot satisfactòria, que no pas estar sol. Però, igual que la tecnologia ha fet aparèixer noves formes de començar una relació, també ha propiciat noves maneres d’acabar-les. Segons el mateix informe, quasi el 60% de la gent creu que és més fàcil tallar a través d’un missatge o les xarxes socials que no pas en persona. Simplement esvaïnt-se.

Aquest no és un cas aïllat. Dos anys després d’aquests fets, una investigació de Propublica va demostrar que el sistema tendia a assignar riscos molt més elevats a les persones de pell fosca que a les de pell blanca. Era el resultat d’allò que es coneix com a biaix predictiu; en aquest cas, racista.

D’on surt aquest biaix?

L’origen s’amaga en els principis més bàsics dels algoritmes predictius, també anomenats d’Aprenentatge Automàtic (Machine Learning, en anglès). Aquests algoritmes, actualment tant habituals, es basen en una anàlisis estadística de dades històriques, a partir de les quals s’extreuen patrons que més endavant serveixen per fer prediccions sobre noves dades. Com a conseqüència, si aquestes dades històriques contenen una representació esbiaixada de la realitat, les prediccions de l’algoritme predictiu reproduiran el mateix biaix.

Però això no és tot. L’estudi de Propublica va demostrar que la diferència a l’hora d’avaluar persones de colors diferents no s’explicava només per unes dades històricament esbiaixades, sinó que l’algoritme tendia a equivocar-se de manera diferent en funció de si examinava persones de pell negra o de pell blanca. Així, COMPAS va atribuir el doble de vegades un risc erròniament alt de reincidència als presos de pell negra; mentre va assignar un risc erròniament baix a molts més reclusos de pell blanca. Per tant, en aquest cas, la Intel·ligència Artificial no ajudava a mitigar les diferències racials inherents a les dades històriques, sinó que encara les potenciava més.

Per què? Propublica ressaltava que COMPAS no preguntava la raça del pres per formar l’algoritme. No obstant això, les variables que utilitzava per obtenir informació eren 137 preguntes personals sobre el detingut i el seu entorn, com “Els teus amics o familiars formen part de bandes criminals?” o “Has provat l’heroïna?”. Però el problema és que, als Estats Units, les diferències socials entre els col·lectius racials són prou importants com perquè es vegin reflectides en aquest tipus de respostes. Així, si s’evités proporcionar a l’algoritme dades que permeten deduir el color de pell, es quedaria sense informació per a fer prediccions amb precisió.

Conseqüències en el treball, en la salut, en l’amor

El cas de COMPAS no és una excepció, ja que els biaixos predictius són un fenomen inherent als algoritmes d’Intel·ligència Artificial, que són cada dia més freqüents al nostre entorn.

El 2014, Amazon va desenvolupar una eina intel·ligent per reclutar els millors treballadors. Un any més tard, la multinacional va adonar-se que als llocs tècnics no hi havia cap dona. La companyia va abandonar l’eina després que una auditoria interna trobés que els candidats homes havien obtingut més puntuació que les dones. Per què? Tal com expliquen Karma Peiró i Ricardo Baeza-Yates a Medium, les dades massives que serviren per nodrir l’algoritme de sel·lecció de personal es basaven en currículums rebuts durant l’última dècada, quan amb prou feines hi havia dones programadores. Quan el sistema automàtic detectava la paraula “dona” o un sinònim, la penalitzava i puntuava més baix.

En l’àmbit sanitari, als Estats Units s’utilitzen algoritmes per guiar algunes decisions mèdiques. El 25 d’octubre, la revista Science explicava que els models utilitzats per assignar cures als 100 milions de pacients nordamericans que pateixen malalties cròniques, com atacs de cor o diabetis, prioritzaven els pacients blancs en detriment dels negres, i rebien abans una assistència mèdica urgent.

Al llibre El Algoritmo del Amor, Judith Duportail explica que l’algoritme de Tinder classifica els usuaris segons la bellesa, el gènere, els estudis i la classe social. Duportail sosté que els homes amb més ingressos i nivell d’estudis tenen una gratificació i, en canvi, a les dones amb els mateixos atributs se les penalitza. Per això, considera que Tinder vol construir parelles desiguals en què l’home sempre sigui superior: amb més estudis, més ingressos i més edat. Com s’explica això? Per una banda, l’algoritme és el resultat d’una compilació de dades que ha tingut lloc dins una societat masclista i, per l’altra banda, segons l’autora del llibre, els programadors de l’aplicació han introduït els seus propis biaixos dins el programari. Com trencar aquest cercle viciós?

Algunes solucions

El Centre Tecnològic Eurecat, de la mà de la Universitat Pompeu Fabra (UPF) i la Universitat Tècnica de Berlín, ha creat un algoritme, anomenat FA*IR, per evitar la discriminació per raons de gènere, procedència o aparença física en cercadors de feina o de parella. FA*IR detecta els biaixos i els corregeix incorporant un mecanisme per a reordenar els resultats sense afectar la validesa del rànquing. Des de l’UPF, a més, proposen utilitzar els algoritmes de manera crítica i en col·laboració amb experts de l’àrea que correspongui.

Rachel Thomas, directora del Centre d’Ètica Aplicada a les Dades de la Universitat de San Francisco, recomana que cada conjunt de dades es presenti amb un document on s’hi descrigui com es va compilar. També aconsella especificar-hi qualsevol preocupació ètica o legal que hagi pogut sorgir durant el procés. Suggereix, tanmateix, que els equips incloguin gent diversa capaç d’advertir els diferents biaixos.

El 2017, l’Associació de Maquinària Informàtica (ACM) publicà un manifest en defensa de la transparència algorítimica i va establir set principis:

1. Consciència. Els creadors d’aquests sistemes han de ser conscients de la possibilitat que hi hagi biaixos en el seu disseny, implementació i ús.
2. Accés. Els reguladors han d’afavorir l’introducció de mecanismes perquè els individus i grups negativament afectats per decisions algorítmiques puguin qüestionar-les i rectificar-les.
3. Passar comptes. Les institucions han de ser responsables de les decisions de l’algoritme, encara que no puguin detallar com s’han pres.
4. Explicació. Les institucions que empren sistemes intel·ligents han de promoure la producció d’explicacions sobre els procediments i les decisions específiques que s’hi prenen.
5. Procedència de les dades. Les dades emprades per a l’entrenament han d’anar acompanyades d’una descripció del seu origen.
6. Auditabilitat. Models, dades i decisions han de quedar registrats perquè puguin auditar-se quan se sospita d’algun error.
7. Validació i proves. Les institucions han de fer proves rutinàries per a avaluar i determinar si el model genera discriminació.

Encara queda molt per fer

Malgrat els esforços, els biaixos algoritmics són entre els grans problemes de la comunitat científica. En alguns casos, les dades sovint reflecteixen diferències no atribuïbles a biaixos, sinó que són resultat d’una descripció objectiva de la realitat i no té sentit corregir-los. A vegades, però, aquests contrastos són producte de certes diferències històriques que cal pal·liar per construir una societat més justa. Tot plegat requereix una feina complexa però necessària per redefinir com conceptualitzem el món i, en conseqüència, com obtenim les dades. Al mateix temps, és urgent introduir l’Ètica a l’hora d’entrenar models intel·ligents que, de ben segur, tindran un gran impacte social.

Notes:

*COMPAS és l’acrònim de Correctional Offender Management Profiling for Alternative Sanctions, que en català es tradueix com a Perfilat per la Gestió Correctiva d’Infractors per Sancions Alternatives.