El canal de Filosofia i Disseny de Telegram va néixer com un quadern de notes on apuntar les nocions bàsiques sobre les quals havia de girar el curs d’introducció a la filosofia del disseny, El disseny de nosaltres mateixos, la primera edició del qual s’anava a impartir l’octubre del 2019. Però se’m en va anar de les mans. Les meres notes van convertir-se en llavors d’on van florir arguments filosòfics al voltant del disseny. I aquests arguments van empeltar-se els uns amb als altres fins a unir-se en un mateix tronc: allò que va començar en forma de meres anotacions a rajaploma havia acabat constituint l’eix central d’una lectura filosòfica del disseny. Havia nascut el llibre homònim El diseño de nosotros mismos. Una lectura filosòfica del disseny (Experimenta Libros). Un tractat que intenta traçar ponts entre dues disciplines que tradicionalment s’han donat l’esquena, quan no s’han menyspreat. Una escletxa que calia superar. Que era urgent superar. Perquè la filosofia compta amb una llarga tradició d’eines analítiques que ens permeten un millor enteniment del disseny, la seva pràctica i el seu resultat. I perquè el disseny trenca amb molts postulats filosòfics previs que es consideraven inamovibles i, si alguna cosa il·lumina la filosofia, és el qüestionament.

Aquestes notes són el record d’un viatge d’anar i tornar. Un viatge que parteix de la tecnologia i el seu ús per acabar en la tecnologia i la seva expressió, el disseny. I tornar una altra vegada. I una altra vegada. I una altra… Aquestes notes que aquí apareixen publicades s’obren també a la crítica de la tecnologia, atès que el disseny és inintel·ligible sense ella. De manera que s’ajusten millor a l’audiència de La Tecnòloga, a qui m’agradaria agrair els seus esforços i ànims incansables per a la seva publicació. De fet, al canal de Telegram s’entén el disseny com l’expressió de la tecnologia, entre altres coses. I és que el disseny sense tecnologia deixa de ser-ho per ser una altra cosa, un mal record de l’artesania. Així que allí es parla ara molt sobre tecnologia. És el viatge de tornada…

Un viatge de tornada també a una antiga passió meva, l’ètica. Perquè en aquesta selecció que es presenta ara apareixen algunes anotacions sobre els avanços de la intel·ligència artificial (IA), la biotecnologia, el reconeixement facial… i com aquestes tecnologies estan començant a despertar fantasmes ètics que crèiem superats. I, el més interessant, és que es proposa una solució.

Una altra cosa és que ningú en faci cas.

Sobre l’autor:

Luis Montero va néixer el 65. Va estudiar Filosofia a la UNED i Publicitat a la Complutense. Ha estat guia turístic, creatiu publicitari i consultor estratègic. Ha viscut a Madrid, Nova York, Londres, Frankfurt, Marràqueix, Benarés i ara a Palma. Ha escrit les novel·les de ciència-ficció Artrópodos, Feliz Año Nuevo i Clon i els assajos sobre ontotecnologia Mundo-hecho i Dejad que las máquinas vengan a mí. D’aquí a dues setmanes apareix El diseño de nosotros mismos. Una lectura filosòfica del disseny. Llibre que complementa i aprofundeix en algunes de les notes aquí publicades. A més ha publicat en diversos mitjans, La Tecnòloga entre ells, on va aparèixer el diàleg D’humans, màquines i altres éssers que senten. Últimament procura gaudir de la vida i anar amb bicicleta.

Podeu llegir aquest article en versió original (castellà) en aquest enllaç.

Notes sobre tecnologia (sel·lecció de l’autor)

1.- La discussió sobre l’ètica de les IAs està fatal enfocada. Tot déu tem que ens matin quan el que havíem de témer és que no ens matin. Com a espècie històricament hem demostrat molt baixa tolerància als exterminis massius però altíssima a les formes de tirania que mantenen la vida, per dolentes que siguin les seves condicions.

2.- Hi ha un fons polític efecte de la producció tecnològica de la realitat sobre el qual es demanen respostes ètiques.

2.1.- Es pretén buscar una bona vida en un entorn polític que ignora –quan no impossibilita– aquesta bona vida (al contrari del que succeïa en, per exemple, Aristòtil, l’ètica del qual també està alçada sobre un fons polític que la sustentava i feia possible; però, potser al contrari del que passa ara, aquella política sustentava l’ètica dels qui vivien les condicions polítiques d’Aristòtil –l’home propietari i, per tant, lliure– i no de la majoria. Aquella ètica estava igual de segrestada, però l’hem romantitzat. Per què l’hem romantitzat? A part de l’argument d’autoritat -ei, que és Aristòtil!-, hi ha la contradicció entre aquella ètica i la política que la feia possible i la relació entre la nostra política i la impossibilitat de l’ètica). L’ètica pateix un segrest, el segrest de la política, que la redueix a la redempció personal dels actes i les seves conseqüències. La vida es redueix a cadascun dels actes, a la seva suma potser, però una suma que no té un resultat final o el resultat final del qual es limita a l’enumeració dels actes, com aquesta passada de diapositives mítica que en diuen avantsala de la mort. És una vida estreta, algebraica. De l’ètica reduïda a les conseqüències dels actes no resulta una vida bona. Una vida es compon d’actes, sí, però no només. I ni tan sols els actes han de ser el component fonamental: en aquest cas algú impedit a realitzar algun acte sigui per discapacitat o per tancament no podria qualificar-se com a capaç de viure una vida plena. Aquí el tot és major que la suma de les parts. Gairebé fins i tot es podria dir que d’aquesta reducció o segrest ni tan sols resulta una vida.

La teleologia utilitarista és peanuts davant la teleologia aristotèlica. L’ètica d’aquest no tractava d’avaluar un acte concret sinó aixecar una vida.

2.2.- Per això el problema del disseny és més polític que ètic. O dit d’una altra manera: la producció tecnològica de la realitat és una estructura política i una ètica no pot ser més que un sistema. I un sistema no pot anar a contracorrent de l’estructura que el suporta. El sistema no pot negar l’estructura que el sosté.

2.3.- I, no obstant això, la generalitat –que no abstracció– de l’imperatiu kantià allunya tantíssim allò moral de les nostres vides, de qualsevol vida, que és impracticable per inaplicable. Si el conseqüencialisme es dissol en la immediatesa fins a perdre de vista aquest horitzó que és la vida, el kantianisme funciona si, al contrari, la vida se subjuga i dissol en aquest sistema reglat. I amb aquesta dissolució es perd la vida. També.

De fet, i com apunto a Dejad que las máquinas vengan a mí, la tecnologia –i per tant el procés de producció industrial de la realitat– parteix del que allí anomeno «error metafísic» perquè tota màquina –i més les IA– és kantiana per definició: porta incrustada en si la definició del món en el qual opera, l’ontologia. Així doncs sobre aquest fons kantià es pretén pensar una ètica que possibiliti una vida bona i al mateix temps estigui subjecta a aquest teixit legiforme kantià de la tecnologia.

2.4.- En aquest sentit de l’acceptació del polític com a substrat sobre el qual floreix –l’avui tan de moda flourish saxó– per ètic s’entén el ressorgir de l’anomenada ètica de les virtuts. L’ètic resideix en el caràcter del subjecte que viu privilegiat pel polític. Tal com succeïa amb Aristòtil, qui podia atribuir al caràcter –i per tant al subjecte– les virtuts morals, virtuts morals que partien d’un i revertien en un, entre altres coses perquè l’altre que també disposava de caràcter era igual que l’u, això és, estava en la mateixa situació política. Però aleshores com ara aquesta situació no sempre és compartida per tots. De fet, gairebé mai. Si bé aquestes ètiques de la virtut prenen constància dels diferents caràcters de cadascun de nosaltres suposen que tots partim d’una mateixa situació política des de la qual la distància i dificultats per a arribar a l’acte moral és el mateix.

3.- Davant les crítiques estereotipades dels perfils més conservadors al canvi en l’espai públic, abans solia dir mig de broma mig de debò que no és que ara estiguem pitjor educats, és que tenim més oportunitats de molestar. I moltes d’aquestes oportunitats són causades per objectes de disseny (altaveus sense fils, envasos portàtils, vehicles elèctrics omnipresents, etc.). Molts dels problemes que genera el disseny no són tant existencials –que requereixen solucions ètiques– com de convivència –que requereixen una reformulació d’allò que significa viure en comunitat–. L’educació en la seva accepció disciplinària, no pedagògica, se’ns ha fet gran. Cosa que no està malament i per la qual hem sospirat en innúmeres ocasions per la cosa hipòcrita que hi havia darrere de la salutació desapegada, però que ara ens enfronta a uns mores (sí, l’avantsala d’allò moral) que no sabem redefinir sense recaure en una moralitat de nou castradora. De sobte el xaval que escolta trap a tot volum a la plaça ens ha retratat a tots.

I no ens agrada com sortim a la foto.

3.1.- La convivència no es basava tant en el costum com en l’acceptació d’aquest costum. El disseny, gran productor d’objectes que fan fallida i inhibeixen aquesta convivència o, almenys, la qüestionen, podria produir el benèfic efecte insospitat d’obligar les comunitats a haver de negociar les pautes de convivència amb cada nou objecte que la desequilibra. Però aquí s’anticipen dos problemes: d’una banda la incapacitat de la comunitat d’articular aquestes negociacions –incapacitat que explica l’acceptació submisa al costum– i per una altra la curtíssima shell life que imposa el mercat a la producció de la realitat. Encara que el primer problema no es donés i la societat fos capaç de negociar al mateix temps que apareixen nous objectes desavinents –que amenacen la convivència–, la creixent velocitat d’aparició d’aquests objectes, que no és d’estranyar que es veiés impulsada per aquesta capacitat d’acceptació, ja que l’objecte de disseny ha de xocar per a no ser fons, aquesta creixent velocitat empenyeria a la societat cap a dos extrems, tots dos extenuants però per diferents raons. O bé la comunitat es convertiria únicament en l’espai de la negociació, una negociació eterna i accelerada donada l’aparició eterna i accelerada d’objectes que, al seu torn, es veiés impedida a acceptar aquests objectes per falta de temps, tot aquest dedicat a una esgotadora negociació. O, a l’extrem oposat, que enviés a pastar fang l’educació i, amb aquesta, la convivència.

Que és on sembla que estem. O cap a on ens dirigim.

3.2.- Però amb una diferència. Aquesta negació de la negociació –i per tant del canvi: no oblidem que la història de la humanitat és la història de la negociació per a l’acceptació del canvi, un canvi que ha comportat 25 segles a occident perquè acabem aquí– no part d’una decisió voluntària dels membres de la comunitat –que és l’òptim buscat quan des de la tradició es critica el costum: aquell denunciar l’educació com un sistema de control i coerció– sinó que és una condició exògena a la comunitat a la qual no sap reaccionar. A la qual no pot reaccionar. Perquè, ja se sap, sense negociació no hi ha acceptació.

3.3.- Si Thatcher va dir «No existeix la societat, existeix l’individu», avui podríem afirmar «No existeixen societat ni individu, existeix l’objecte».

4.- Abunden –o comencen a abundar– els llibres de tecnòlegs i dissenyadors proposant solucions ètiques per a la tecnologia i el disseny. I a mi sempre em xoquen. I no sols perquè em sembla que la solució ètica no pot venir de la part que genera el problema, ningú té aquesta equanimitat –ni tan sols Moore quan afirmava que en tot acte hi ha un punt de vista objectiu, que és el de l’altre afectat… que és cert que n’hi ha, però pretendre que el patró moral sigui aquest és pretendre que siguem sants: no sempre puc actuar amb la mirada de l’altre, entre altres coses perquè desconec la seva mirada, és impenetrable–, sinó perquè aquests llibres de tecnòlegs i dissenyadors escrivint ètiques de tecnologia i disseny em sonen a exercici de capellanets. Són llibres en certa manera redemptors. Un «va, ànim, nois, que no som tan dolents, que podem fer-ho bé», potser necessari, però que té molt poc a veure amb l’ètica, té a veure amb el consol –un consol injust, perquè el tecnòleg i el dissenyador estan en un espai de poder, i no sols polític–.

4.1.- Però no em xoquen per això, em xoquen per alguna cosa més densa. El disseny és un exercici de creació. I els discursos redemptors ho són precisament perquè tot exercici de creació és fallit. I vaig amb un exemple més gran. No hi ha creador més gran que déu, que en la seva teoria ho ha fet tot. Bé, acceptem-la per un segon i com a experiment mental. Si ho ha fet tot, per què ens ha d’enviar un redemptor (que sempre ens imposa una moral, per cert)? Perquè la creació és imperfecta i hem d’ajustar-nos a aquest patró moral per a salvar-nos. Hi ha salvació condicionada, i només condicionada. La salvació és un condicional fort, si i només si. Però per als qui no tenim moltes ganes de salvar-nos, perquè tampoc pensem que calgui salvar-nos de res, és a dir, per als qui no pertanyem al marc, aquesta salvació coercitiva en realitat no manifesta una altra cosa que la imperfecció ontològica d’allò creat i, per tant, del creador. El tecnòleg o el dissenyador ficat a la pell de l’ètic ocupa per mi aquest espai. En comptes de mirar el problema primer, el problema fonamental del disseny, intenta excusar-lo amb una ètica. Com les religions, que per salvar la creació condemnen a mitja humanitat (d’aquí el magnífic problema de les teodicees, que com a exercici són precioses, però insalvables), el tecnòleg/dissenyador-ètic, per a salvar la disciplina condemna l’honestedat intel·lectual.

4.2.- Convé desconfiar sempre dels tractats ètics escrits a favor del P&L [‘profit and loss‘; en català, pèrdues i guanys] de qui els escriu. Ja sigui de capellans explicant que bona és la catequesi per la moral o de tecnòlegs i dissenyadors explicant que bones són les pràctiques per a la consecució de l’objectiu que li demana el client.

5.- Si la moral tingués una base biològica que depengués de la morfologia cerebral, com sí que succeeix amb la cognició (d’entrada només percebem aquells estímuls que el nostre aparell cognitiu percep com a fenòmens, que no són més que una mostra ínfima del total de possibles estímuls que produeix el món), llavors, deia, podríem disposar d’alguna cosa així com una moralitat augmentada. I no em refereixo a comptar amb una base de dades de casos resolts o no, no amb programes per a desenvolupar la lògica inherent a un arbre de decisions, per exemple, sinó a ampliar les fonts dels nostres sentiments morals més enllà de les nostres fisiologies-cossos. Poder, per exemple, participar dels sentiments morals d’un altre. Un dispositiu que te l’enganxes a l’orella, alguna cosa així com un audiòfon, que t’oferís la visió moral d’una tercera persona en una determinada situació. Alguna cosa així com aquell imperatiu d’objectivitat –davant tota decisió moral sempre hem de tenir en compte la perspectiva objectiva, exterior a nosaltres, que dictaminava Moore–, però generat per un dispositiu.

Cosa que em fa pensar que aquest dispositiu ja existeix, és la plaça del poble. On una comunitat vivia els seus mores compartits.

No feia falta tecnologia, sinó convivència.

Però potser aquesta última sigui una sortida massa fàcil. És que la plaça pública no és una forma de tecnologia? Més enllà que sigui tecnologia o no, que és una disquisició que ara no és necessària, el que sí que és és el lloc que propicia la convivència. Arribats en aquest punt apareix la pregunta: podríem crear altres dispositius que ampliessin el registre-sentiment moral, ja fos mitjançant l’ampliació de la convivència, la seva simulació o representació, o qualsevol altra manera d’obrir-nos, de treure’ns del nostre punt de vista moral subjectiu?

Ho acceptaríem?

6.- La inundació de notícies que anuncien capacitats tecnològiques miraculoses deixen poc espai per a la scifi especulativa més enllà de la política. I és tan aclaparador que gairebé l’única lectura possible és la distopia.

I la distopia, la falta de relats de cels oberts i una certa esperança, ens està matant. I no, no parlo d’aquests relats prefabricats per la indústria de producció del tot, com el disseny de futurs, Hollywood o els casos d’èxit de les consultores estratègiques –que en el fons són tres formes del mateix– sinó de les possibilitats de llegir-nos a nosaltres mateixos de formes alternatives, oberturistes, esplendoroses.

Una inundació que ens arriba en el pitjor moment –totes les crisis sempre arriben en el pitjor moment–, quan a més sembla que a força de narrar-ho tot hem esgotat el diccionari i no fem sinó parlotejar.

Potser, i aquí ho uneixo amb tecnologia i disseny, té a veure amb la pèrdua de pes il·locutiu del llenguatge enfront de la capacitat realitzativa del disseny i la tecnologia. M’explico, una mica. Se suposava des d’Austin que hi havia enunciats que tenien un impacte directe en la realitat, que eren com els manaments d’un déu: es complien. «Queda inaugurat aquest pantà!» significava que efectivament aquest pantà havia estat inaugurat –òbviament la referència franquista és a posta, el feixisme és extremadament il·locutiu–. Aquest efecte era allò perlocutiu de l’acte il·locutiu. El perlocutiu és el que succeïa en el món quan s’emetia un enunciat il·locutiu. Bé, perquè el disseny i la tecnologia poden entendre’s com a actes perlocutius que no necessiten actes il·locutius. I si l’economia regeix els usos del llenguatge, aquesta no-necessitat d’enunciats és un estalvi magnífic que semblaria fer l’acte lingüístic superflu.

7.- Una prova, o potser un mer delator, de la rebolcada causal provocada per la tecnologia i esperonada pel disseny –on els efectes són les causes– és que el procés de denominació d’un nou aparell, artefacte, disciplina o eina moltes vegades ve derivat d’un efecte. El GUI es diu així pel que produeix: la interacció amb objectes és més immediata que la línia de comandos. Chromecast es diu així pel que produeix: emetre a la pantalla de la tele allò reproduït a Chrome. UX s’acronomitza així pel que produeix: una vivència en l’usuari. Els exemples són moltíssims, i és una tendència que ve de lluny: el telèfon o el rentavaixella ja duien impresa aquesta manera d’atribució –atribució que potser també respon a l’entorn domèstic on es despleguen aquests objectes; almenys al principi, ja que ara són sobretot d’ús professional (encara que aquesta diferència ja gairebé manca de sentit)–. En aquest sentit el disseny és una excepció, quasi res del que esmentem és anomenat per l’efecte que produeix. La relació entre el nom i la cosa anomenada poques vegades era identificable. Fins i tot tirant d’etimologies, encara que retrocedim al llatí o al grec, arriba un punt que aquesta relació nom-cosa anomenada apareix com a aleatòria. Indesxifrable. No així en el disseny. És aquell remetre de Heidegger a Ésser i temps propi de tota eina tecnològica.

7.1.- En certa manera l’efecte és el sentit (l’efecte que hauria de ser contingent passa així a universal).

7.2.- Aquest universal impedeix la resignació del dissenyat, acció política proposada moltes vegades com a forma de reapropiació. Exemples d’aquestes propostes n’hi ha molts.

7.3.- No obstant això, qualsevol reapropiació és impossible quan no hi ha cap distància en la relació entre significant i significat i quan aquest, a més, s’ha convertit en universal, sempre el mateix.

8.- La intel·ligència respon a la vida i no al contrari. El mateix hauria de succeir amb la IA, si no volem que es giri contra la vida. Ara bé, per a això la IA hauria d’estar viva. I això és poc probable –i no només perquè estem més lluny encara d’emular la vida que d’emular la intel·ligència–.

9.- L’impacte de la quarantena en la interintimitat. Avui pensava que, si la quarantena té alguna virtut, és que ens permet centrar-nos a cuidar als qui són a prop, als qui estem més pròxims. Els qui a Dejad que las máquinas vengan a mí vaig definir com l’altre-jo, aquells que estan en aquest costat del pal del selfie. L’excepcionalitat de la situació ens ha fet conscients de la importància de les cures d’aquests altre-jo. Però aquesta proximitat amb l’altre-jo, sobre la qual es construeix aquesta interintimitat que s’expressa en selfie comuna –el self compartit com a expressió visual de l’altre-jo–, no és la proximitat física de la distància. El confinament de cadascun s’amplia en l’allunyament i distribució d’aquests altre-jo. És la presència absent que ens permeten les tecnologies, que per alguna cosa totes es denominen amb el prefix tele: telèfon, televisió, teleconferència… Tecnologies que ens permeten ser sense estar. És la presència absent. I avui, confinats, estem més presents-absents que mai. Quan truquem per videoconferència grupal als nostres quatre éssers més estimats. Quan ens posem d’acord en un grup de Telegram que prestarem especial atenció a algú que no està al grup perquè està en una situació delicada, sigui laboral o de salut o del que sigui. Aquesta intimitat estesa que és la interintimitat amb l’altre-jo potser també pot ser anomenada la tele-intimitat. La intimitat del fet de compartir des de la presència absent.

10.- El disseny –i la tecnologia amb aquest– parteixen d’una premissa equivocada: que un només pot habitar un món. És a dir, que la vivència està limitada al món en què es dóna aquesta vivència. El que bé pot ser cert dit de cada vivència. Però no ho és quan les vivències s’entenen com un continu no determinista. No hi ha –o no hi ha raó perquè hi sigui més enllà de la imposició d’un món produït pel disseny– per a pensar que la meva següent vivència sigui dependent del món en el qual es dóna aquesta. No hi ha un historicisme de la vivència. El confinament és una prova d’això. Qui ens hauria dit que ens passaríem sis setmanes a casa? I qui hauria dit que ens semblaria malament? No obstant això aquesta relació unívoca món-vivència que fonamenta el disseny –com a procés de producció d’aquest món i la seva vivència donat el seu caràcter fenomènic– comença a esquerdar-se.

10.1.- És tasca del disseny, si vol sobreviure a la pandèmia, en la qual s’ha demostrat com a superflu, atès que el món que proposava ha esdevingut inhabitable, a explotar aquestes noves esquerdes en si mateix per a permetre l’aparició de noves realitats. De nous mons. Trencar aquesta equació és el nou imperatiu del disseny.

10.2.- El disseny, últimament centrat en els fonaments d’aquest món previ, s’ha entossudit a bussejar en els P&L dels seus clients (els casos d’èxit sempre s’expliquen com a èxits de negoci) i morirà arrossegat per aquests mateixos P&L que ja estan morint. El disseny ha d’aprendre que el seu futur no és aquí sinó en altres llocs. A la vida. M’explico. Com altres indústries culturals, el disseny ha de buscar la seva inspiració en la resta de fenòmens culturals que l’acompanyen. Així com la música pop sempre es renova gràcies als experiments musicals de minories racialitzades o els videojocs a la reinterpretació de clàssics de la literatura, el disseny té trobar altres fonts alienes a ell mateix però que l’enriqueixin. Ha de sortir dels despatxos i els Indesigns de torn i sortir al carrer. Ha de baixar al barri si és que vol sobreviure. Hi ha, per exemple, més futur del disseny en el bombing grafiter que en els estudis de disseny estratègic, que ja fan olor de formol.

10.3.- I el mateix és aplicable a tecnologies creadores de mons com la IA, la RV [Realitat Virtual] o els videojocs.

10.4.- Però una de les raons en la diferència de cos és que la tasca del dissenyador i de l’ideo-CEO és la creació del món, però no el seu manteniment (déu, com a aclariment, és aquell que és perquè és capaç de crear el món/univers, sí, però també de mantenir-lo. En el model producció industrial de la realitat, que inclouria aquestes dues tasques: creació i manteniment, totes dues tasques apareixen com deslligades). El manteniment d’això creat encara continua estant estretament lligat al cos –d’aquí ve que els processos d’automatització i robotització estiguin centrats fonamentalment en els sectors de producció industrial del que ja hi ha: cadenes de muntatge, ERPs, etc.

10.5.- Reflexió que em porta a una altra, relacionada amb l’absència present del cos –en aquest cas el cervell– en les IAs. La tasca de la IA és la creació o el manteniment del que hi ha? De moment jo diria que és la del manteniment, entre altres coses per la no permissibilitat de fal·libilitat de la qual parlava. Però, i aquesta és una tesi que trobo interessant, perquè és fàcil preveure que si la IA intervingués en la creació de nosaltres, com a humans, no entendríem moltes vegades aquest acte com un acte creador i ho entendríem, en canvi, com un acte aleatori, resultat de l’atzar (o de la bogeria de la màquina, que és una altra forma d’atzar).

Així, per exemple, va succeir amb el famós moviment 37 de la segona partida d’AlphaGo, que tots els experts van interpretar com a aleatori, per inexplicable, però que com que es va donar dins d’un món ja creat (aquí la IA no feia altra cosa que mantenir el món que és el joc de Go), va acabar per revelar-se com a intel·ligent i, per tant, intel·ligible.

11.- Amb relació a la disjuntiva instrumentalisme vs. substancialisme d’allò tecnològic (i del disseny) nascuda a partir del que es va anomenar l’empirical turn dels 70s –quan la filosofia de la tecnologia va començar a acceptar d’una manera menys crítica la tecnologia, acceptant que era aquí per a quedar-se–, potser convindria recordar a Plató i el seu Fedre, on rebutjava l’escriptura al·legant que acabaria amb la memòria. Però l’atac no era un atac oral, era un atac escrit. Escrivia per a atacar a l’escriptura. Una vegada que Plató va decidir començar a escriure ja mai va poder deixar de fer-ho –perquè allò no tecnològic, precisament perquè deixa una petjada efímera, es perd en i per a la memòria: per això no sabem què va dir a la seva Acadèmia–. I nosaltres amb ell. Per això, en continuar escrivint definia una manera d’humà, un humà la memòria del qual potser no es veia substituïda per l’escriptura, però sí que es veuria augmentada. Un humà la memòria del qual quedaria per sempre intervinguda per l’escriptura. Que avui encara llegim a Plató ho demostra.

Les interpretacions instrumentalista vs. substancialista s’han llegit fins ara com a contraposades, com dues maneres d’entendre allò tecnològic (i el disseny), contradictoris, però en realitat conformen un mateix discurs, una dialèctica, que a força de negar-se amplien l’àmbit d’allò definit per aquest discurs, que és el tot. Aquesta és la dialèctica que descansa en la dialèctica de la filosofia de la tecnologia, que en cada nou pensar es consolida el tecnograma a la Latour i Borgmann com a continuació interessada de les seves cadenes cosmològiques (que és com denomina Latour a les tres maneres d’estar en el món que Borgmann denominaria Naturalesa, Cultura i Tecnologia):

Cosmograma -> Cultugrama -> Tecnograma

sobre el qual es construeix un món tecnologitzat al qual ja no pot renunciar, en un procés semblant al sistema que s’expandeix a força de negar-se recursivament, això que Hofstadter va anomenar gödelització. Per això quan se supera un estadi, una manera d’estar en el món, quan, per exemple, se supera el cosmograma per a endinsar-se en el culturgrama, el cosmograma pot advertir-se, però no es pot tornar a ocupar. Queda com a record, però com els records és inaprehensible. I en aquest tot estem nosaltres. El tecnograma apareix cada vegada més com més afermat i el culturgrama se’ns apareix tènue i cada cop més desvalgut. Del cosmogama no tenim ja ni notícies. Aquest tot que transformem no pot ser-ho sense la nostra pròpia transformació.

12.- Un dels atributs que distingeixen a la intel·ligència és que no comptem amb la seva infal·libilitat. De fet, tot el contrari, entenem allò intel·ligent com alguna cosa que pot o bé fallar o bé produir solucions (és cert que definir el producte de la intel·ligència com a «solucions» ja denota un biaix que rebaixa el possible intel·ligent, però perquè ens entenguem), solucions, deia, inesperades. I cap de les dues resultants ho desqualifiquen com a intel·ligent. Exemple de resultes intel·ligents fallides? Posaré un que té relació amb el disseny. Les places dures de Madrid. Aquestes places que es van dissenyar no per a la convivència, que és per al que es van dissenyar, però que sol ser estàtica, conviure requereix temps, sinó que es van dissenyar per al trànsit. Així són places sense arbres, ombres o bancs. És més, no són places, són esplanades. Solars. Terra erma. «Terra erma», com el poema de T. S. Eliot (per a qui no el conegui, és aquí). Més semblants a patis de presó, un altre espai «obert» en el qual no es conviu sinó que s’erra, com en una plaça de poble. Una solució arquitectònica intel·ligent quan allò que pretens és transformar les ciutats en espais Centres Comercials oberts, com el projecte de Gallardón per al centre de Madrid. Una solució perfecta, a més, per a l’explotació comercial d’aquestes esplanades: en totes hi cap un quiosc de Nokia, una terrassa de cafeteria o un estand de Movistar.

Però la solució va deixar de ser intel·ligent el 15M. De sobte aquella solució de plaça dura va resultar increïblement fàcil d’ocupar. Allò que estava dissenyat per al trànsit va resultar perfecte per a la immobilització. I d’aquí el doble impacte d’aquesta ocupació, perquè no sols redefinia l’espai sinó també el seu ús. Però aquest sub-ús, diguem-ne, no vol dir que la proposta de disseny no fos intel·ligent per al model de ciutat que es pretenia. És només que la ciutat en algun moment no ho va entendre així.

Això com a exemple de resulta intel·ligent fallida; perquè exemples de resultes intel·ligents que generen respostes alternatives n’hi ha moltes i són fàcils de trobar.

No obstant això, amb la IA esperem infal·libilitat. Si falla ja no és intel·ligència. I si genera solucions divergents (més enllà de la divergència pautada dins d’allò ontològic-possible d’aquesta IA) tampoc. Fet que obre dos problemes, un epistemològic a l’hora de definir què és IA; un altre ètic, a l’hora de definir com ens relacionem amb les IA.

13.- No parem de culpar a la IA de biaixos que no són sinó nostres. De miopies ontològiques que no són sinó nostres. De decisions pernicioses que no són sinó les que fa 2.500 anys que prenem. De fet la IA està a punt de convertir-se en el boc expiatori moral per a les decisions que no volem prendre. Complint així el paper de boc expiatori positiu. Es menja la culpa per a redimir-nos. Fins i tot aquesta denúncia es desploma davant d’aquest argument: en denunciar el desplaçament de la culpa no fa una altra cosa que reforçar aquest desplaçament. La nostra relació amb la IA és absolutament cristiana.

14.- «Deixeu de fer» potser és l’únic mantra ètic vàlid avui per al disseny i la tecnologia. Potser l’únic treball moralment justificat de dissenyadors i tecnòlegs sigui deixar de fer i, sobretot, convèncer als seus clients perquè no facin.

Em costa molt trobar un argument contra aquesta proposta mínimament ben fonamentada. S’admeten contribucions.

Exemple, no perfecte, però exemple:

https://techcrunch.com/2020/06/08/ibm-ends-all-facial-recognition-work-as-ceo-calls-out-bias-and-inequality/

Un altre exemple del «Deixeu de fer», però aquesta vegada des d’un lloc problemàtic: Amazon. No obstant això, és simptomàtic que les companyies de tecnologia s’autoregulin –en allò que no és altra cosa que una expressió de la seva por a les regulacions governamentals que vindran– mentre els dissenyadors continuen empenyent a fer:

https://venturebeat.com/2020/06/10/amazon-imposes-one-year-moratorium-on-police-use-of-its-facial-recognition-technology/amp/

En els anys 70, Putnam (el lògic matemàtic-filòsof) va proposar alguna cosa així com un axioma ètic, el punt mínim moral des del qual decidir actuar. Deia «Always stick to the loser», estigues sempre amb el perdedor. I encara que no sempre és fàcil saber qui és el perdedor–a Dejad que las máquinas vengan a mí explico el cas d’una persona les profundes creences catòliques de la qual feien que confongués el perdedor en el cas d’una noia violada fecundada– l’axioma encara continua ressonant dins el meu cap. Primer perquè té això d’analític formal de base kantiana, que no obliga a alguna cosa concreta sinó que és context-irrelevant. Aspira així a una certa universalitat que ho fa estrictament atractiu. Segon, i derivat d’això analític, perquè encara que no proposa solucions, aquest «stick» no és actuar, tampoc és una forma d’inacció, que sempre és una forma de suport a l’agressor. Res és tan poc equidistant com l’equidistància, que diria Benjamin dels alemanys «neutrals» davant l’ascens nazi.

Avui aquest «Deixeu de fer» reprèn aquestes virtuts de l’axioma putmanià i fa de la inacció acció. I ho fa mitjançant una inacció no equidistant. Ho fa amb la consciència clara dels perills polítics de l’objecte de disseny i tecnològic. No fer és un reforçar allò bo que encara ens queda i, al mateix temps, estar-nos amb els perdedors d’això tecnosocial que estem produïnt dissenyadors i tecnòlegs, nosaltres. Tots. Tots nosaltres.

A més, i per si no fos prou, ataca aquest dogma neoliberal que no fa reforçar privilegis de l’aprenentatge a través de l’error –recordem que només els rics poden permetre’s fallar perquè compten amb una xarxa de suport teixida amb la plusvàlua expropiada als seus treballadors (si això ha sonat marxista no us estranyi, ho és); els pobres no poden provar, perquè no té l’oportunitat de tornar-se a aixecar: com s’aixecaran una segona vegada si no poden aixecar-se una primera?–, una tesi, la de l’error com a catapulta cap a l’èxit final, derivada d’aquesta altra proposta moral de rics, el pragmatisme a la Dewey, que és extremadament nociva perquè determina que tot fer redunda en el poder establert. I ara que el poder establert està desbocat dotat d’un fer quasi-miraculós, el fer ha de parar. Ja no podem permetre’ns eslògans –tots deweyans, per cert– tipus «aprendre fent» o «narrar a través d’actes» (storydoing) perquè tot fer ens converteix en perdedors. A base de tant fer hem perdut el sentit, i el fer sense sentit és prerrogativa del tirà, com deia el nazi de Schmitt.

14.1.- Per què «Deixeu de fer»?

Al començament del segle passat la filosofia es va partir per la meitat, i no em refereixo a la segregació analítica vs. continental, que en el fons parlaven del mateix però en diferents termes, el llenguatge i allò que pot ser enunciat amb propietat, sinó al fet que la interpretació del món s’obria en dos: o llenguatge o acció. I mentre tots dos corrents van optar pel llenguatge el món, cada vegada més produït per la indústria, va optar per l’acció.

I l’acció, gràcies a la incorporació dels avanços lingüístics de l’analítica, va acabar per devorar al llenguatge. La programació ha fet saltar per l’aire tot allò pensat sobre el llenguatge perquè l’ha convertit en performatiu. Tot llenguatge de programació és performatiu. Per tèlic.

Fa 120 anys que pensem allò que no és. Allò que no tocava.

Per això avui toca «Deixar de fer» i començar a pensar això que fem.

“Maleït creador! Per què no vaig perdre en aquell moment la flama de l’existència que tan imprudentment vares encendre?” brama, amb set de venjança, la solitària criatura de Víctor Frankenstein a l’obra mestra de Mary Shelley. Sense màquines al relat, Frankenstein ha contribuït a crear un imaginari simbòlic de la Intel·ligència Artificial (IA) més a prop del recel que de l’encís: les nostres creacions poden rebel·lar-se i posar la humanitat contra les cordes. Són un mirall d’aquesta por irracional les novel·les 1984, Jo, robot, Un Món feliç; les pel·lícules Blade Runner, Matrix, Ex-Machina; les sèries Black Mirror, Westworld… La llista és inacabable.

Segons l’estudi El Factor Frankenstein: anatomia de la por a la Intel·ligència Artificial, elaborat per SogetiLabs el 2017, més d’un terç dels ciutadans de la Unió Europea creu que l’IA serà una amenaça per a la supervivència de l’home a llarg termini. Mentrestant, un 46% no veu cap benefici en la idea de desenvolupar robots humanoides. “Hi ha quelcom d’atàvic en la por que els humans sentim cap al progrés i la tecnologia. Cap a un futur que ens parla de suplantació”, escriu el director de la pel·lícula Eva, el barceloní Kike Maíllo, a La Màquina Aparentment Desobedient, publicat a la Revista Idees del Centre d’Estudis de Temes Contemporanis (CETC), que dimecres va oferir un diàleg en línia sobre l’imaginari simbòlic de l’IA entre dos investigadors de primer nivell: Ramon López de Mántaras i Carme Torras.

El cert és que la ciència-ficció ha apel·lat molt més a la distopia que a la utopia. I quan la tecnologia entra en escena, ja podem presagiar un final apocalíptic. Tot i això, la ciència-ficció no només ha servit per sembrar el terror: també ha contribuït a “crear debat i consciència crítica sobre la tecnologia i la Intel·ligència Artificial”, va advertir Carme Torras.

De fet, Torras, que és investigadora a l’Institut de Robòtica i Informàtica Industrial de la Universitat Politècnica de Catalunya (UPC), doctora en Informàtica i novel·lista, ho ha posat en pràctica a La mutació sentimental (Editorial Pagès Editors), on es planteja si el fet de ser criat per mainaderes artificials i educat per mestres robòtics afectaria els nostres hàbits intel·lectuals, emocionals i socials. Al mateix temps, posa sobre la taula una sèrie de qüestions que són utilitzades actualment a diverses universitats del món per impartir formació ètica en algunes carreres tecnològiques. Així, Orwell, Huxley o Shelley han entrat a l’acadèmia per polemitzar el dilema seguretat versus llibertat, el totalitarisme tecnològic, els substituts emocionals, les rèpliques humanes i un prolongat etcètera. Els interrogants morals també perseguiran el lector d’Enxarxats, obra de la mateixa autora –i a la qual la Fundació Bit va dedicar aquesta ressenya. Aquesta setmana, la Fundació Mallorca Literària ha entrevistat a Torras sobre aquesta novel·la i ha reflexionat amb ella sobre els múltiples dilemes que plantegen les xarxes socials a la societat.

La màquina es rebel·la

Predir el futur mai ha estat fàcil. Tot i això, durant l’acte del CETC, Ramón López de Mántaras, enginyer físic i investigador del Consell Superior d’Investigacions Científiques (CSIC), ens recordà la gran quantitat de projectes de recerca en IA dels darrers 50 anys que van ser anticipats per 2001: una Odissea a l’Espai (1968). Per exemple, el reconeixement facial -“fins i tot quan la cara només hi està dibuixada”, precisa l’investigador-, el diagnòstic predictiu d’avaries, la lectura de llavis, la capacitat de jugar a escacs a molt alt nivell o el domini absolut del llenguatge natural. López de Mántaras afegeix que el supercomputador Hal, encarregat de controlar les funcions de la nau espacial, no simula tenir estats mentals sinó que realment els experimenta, així com la por de ser desconnectat. Per això Hal “mata en defensa pròpia”, diu. De nou, la màquina es rebel·la. 

No obstant això, el dilema del robot entre acatar i sotmetre’s va aparèixer per primer cop a l’obra d’Isaac Asimov. El visionari autor, que enguany hauria complit 100 anys, despuntà com a escriptor enmig de l’horror d’Hiroshima i Nagasaki i una allau d’avenços tecnològics que amenaçaren com mai abans la humanitat. Asimov, científic de professió, va recórrer a la literatura per plantejar els dubtes i les pors que li generava la ciència: al seu llibre Jo, Robot va establir les famoses lleis fonamentals de la convivència entre humans i robots, que han estat assimilades per la comunitat que investiga en IA.

La fragmentació del coneixement en compartiments estancs mai no ha afavorit el progrés. Per això, la multidisciplinarietat és necessària si volem evitar el desastre. Com escriu Torras a la Revista Idees, el món de la recerca de la IA ha vist “la necessitat de treballar conjuntament amb científics socials, psicòlegs, advocats, filòsofs i antropòlegs per tal d’analitzar les implicacions socials i ètiques de les tecnologies que s’estan desenvolupant i la forma com s’estan desplegant”. I en aquesta tasca, la literatura, el setè art i els diferents engranatges que alimenten el nostre imaginari simbòlic hi tenen molt a dir. Com va dir Neal Stephenson, la ciència-ficció pot donar idees per a innovacions tècniques i, sobretot, “pot oferir una imatge coherent d’aquestes innovacions integrades en una societat, en l’economia i en la vida de les persones”.

Així, Kike Maíllo aconsegueix a la seva pel·lícula Eva que el gran públic es plantegi: Les màquines de companyia podran ser bones amigues nostres? Serem capaços d’establir lligams d’afecte amb artefactes que es limiten a obeir el seu propietari? I si els conferim consciència i lliure albir per a igualar-nos-hi, quina relació de poder hi establirem amb les màquines, una vegada hagin adquirit una intel·ligència immensament superior a la nostra?

Montero, a més d’escriptor, ha estat guia turístic, creatiu publicitari i consultor estratègic. Ha viscut a Madrid, Nova York, Londres, Frankfurt, Marràqueix i Benarés. Ara resideix a Palma. Ha escrit les novel·les de ciència-ficció Artrópodos, Feliz Año Nuevo i Clon, i els assajos d’ontotecnologia Mundo-hecho i Dejad que las máquinas vengan a mí. Per cortesia de l’Editorial Enclave, us oferim el principi d’aquest últim llibre.

En AQUEST ENLLAÇ el trobareu en castellà, versió original.

PREFACI

Fa uns anys van presentar-me com un escriptor de filosofia ficció. Alguna cosa com un autor de ciència-ficció amb vel·leïtats filosòfiques. O com un filòsof prou mandrós com per a centrar-se en la ficció, entesa com el lloc de l’especulació sense argumentació. I tothom sap que allò complicat de la teoria no és tenir bones idees, aquestes estan pertot arreu, en qualsevol cantonada, en qualsevol text, en qualsevol comentari fugaç sentit pel carrer; no, el complicat de la teoria és compartir les raons que t’han conduït a una idea. Eludir l’instintiu que té el coneixement per a traduir-ho en una argumentació que pugui ser compartida. Per què? Perquè a les conclusions de l’instint d’un altre és impossible arribar. Però tornant a l’origen d’aquest llibre, si haig de justificar-lo per la confluència entre la meva afecció per la ficció científica o per la mandra que justifica prou atreviment com per a construir sobre el treball d’altres, només puc dir que potser totes dues raons són certes. I, a més, que les dues raons són la mateixa. Un no escriu ficcions en el buit, de la mateixa manera que no té idees especulatives en el buit. I potser per això vaig decidir aprofitar les ficcions que havien escrit uns altres, aquest cop en format pel·lícula, per a introduir les meves idees i els meus arguments. A vegades millors que les mateixes pel·lícules, a vegades no tant.

Per què el cine? Perquè el cine és una tecnologia intermèdia entre la literatura i la Realitat Virtual (RV). Però, a diferència de la RV, el cine és una tecnologia madura, mentre que l’altre no va més enllà de promeses inacabades. De fet, aquest aforisme que obre aquest paràgraf no feia referència a l’origen a la RV sinó als videojocs: el cine, aleshores, era una tecnologia intermèdia entre la literatura i els videojocs. El cine és una tecnologia intermèdia entre la literatura i tot allò que projecti imatges i sigui immersiu, ja siguin aquests els videojocs, les projeccions en 360° o la RV -o allò que vingui després… El cine és el pont entre avui i el futur i, tot i que mai assolirà aquest futur, sempre l’atrapa i el sobreviu amb una solvència sorprenent. Avui molta més gent consumeix cine que videojocs, projeccions de 360° o Realitat Virtual. Però no només hi ha un motiu quantitatiu, també n’hi ha un de qualitatiu. De fet, és la versió a la pantalla gran allò que acredita l’èxit dels diferents formats: és la superproducció de Hollywood, ben saturada d’efectes digitals i bandes sonores bombàstiques, la qual cosa confirma el videojoc, la projecció en 3D o la RV com a productes culturals de referència. I és que, com es veurà més endavant, els cadàvers d’aquest segle XXI gaudeixen d’una salut excel·lent.

Per què ciència-ficció? Aquesta pregunta és fàcil de respondre. Perquè la ciència-ficció és un magnífic planter d’experiments mentals. Molts dels personatges, situacions i mons descrits al cine de ciència-ficció obren infinites possibilitats especulatives que no són altra cosa que experiments mentals. I, des de sempre, aquests escenaris hipotètics que són els experiments mentals han tingut un pes fonamental en la història de la filosofia, i no sols en l’occidental. Un pes que no ha fet altra cosa que augmentar amb l’auge de la filosofia analítica. Avui, quasi pot afirmar-se, l’experiment mental és la forma primera d’argumentació.

Per què cinema de ciència-ficció? Perquè, i aquesta és la base fonamental que explica aquest llibre, quan parlem de màquines estem parlant ineludiblement de nosaltres, els humans. I quan ho fem a través del cine, més que parlar, cridem. Tot argument que apareix en format cinematogràfic, que ja ve avalat per una certa popularitat, assoleix una audiència molt major que les novel·les o els videojocs, per exemple. I així, una altra vegada la mandra, els experiments mentals ja han estat explicats a audiències immenses prèviament. Així, molts dels temes i tesis d’aquest llibre ja han estat discutits abans per moltes persones, la qual cosa sens dubte simplifica l’esforç argumentatiu a l’hora de plantejar les meves idees. Sí, sóc mandrós.

De tot això pot entendre’s que aquest no és un llibre de crítica cultural. No, és un cultural study. Amb tots els meus respectes cap a aquesta disciplina, que compta amb magnífics autors extremadament rellevants, les seves tesis sempre em resulten una mica arbitràries, perquè podrien donar-se o no independentment del producte cultural analitzat; no, aquest és un llibre d’allò que podria denominar-se ontologia cultural, l’intent de respondre a la pregunta «Què sóc?» a través de productes culturals. I no, no és un invent meu. Aquest intent d’explicar allò que som a través de productes culturals és una cosa que sempre ha fet la metafísica, però passa que aquells productes culturals solien ser altres llibres de metafísica. Perquè sí, aquest és un llibre de metafísica.

I és que, i aquesta és la tesi que suporta tot el llibre, les màquines són la millor forma d’autoexploració que ha creat l’humà. Molt millor que la filosofia. Són un exercici, sovint extremadament candorós, d’autoconeixement. De fet, incomptables teories de la ment han sorgit a partir d’arquitectures de hardware i software, especialment durant el segle XX. El llistat d’influències recíproques entre un i un altre camp, la ciència-ficció i la teoria de la ment, és immens. Les màquines són l’encarnació d’aquest experiment mental que som per a nosaltres mateixos. Però no només això. Són una idea de nosaltres mateixos amb capacitat per a transformar-nos a nosaltres mateixos i el món que habitem. Estem en aquest moment en què l’experiment mental, això que nosaltres creiem sobre nosaltres mateixos, està deixant de ser mental per a convertir-se en real. Són temps interessants aquests.

És allò que jo he anomenat Mundo-hecho en un altre lloc.

I, finalment, un breu comentari sobre la selecció de les pel·lícules de ciència-ficció tractades. Tot i que potser la ciència-ficció és el gènere cinematogràfic l’inici del qual és més fàcil d’assenyalar, aquell pioner Le Voyage dans la Lune (1902) de Méliès, aquí s’ha optat per un altre criteri, encara que l’obra mestra francesa és un magnífic exemple de cine polític. Atès que es tracta de parlar de les màquines com un altre-nosaltres, un tema que no es tracta en l’obra francesa, la selecció no podia sinó començar amb la també pionera Metropolis (1927) de Lang i acabar amb Blade Runner (2017) de Villeneuve, i no perquè aquesta última és especialment pionera, sinó (1) perquè en introduir la natalitat dins de l’univers robot sembla que tanca un cercle relatiu a la fusió entre humà i màquina i (2), més pragmàtic, perquè en algun lloc havia d’acabar la selecció i aquesta fallida continuació del primer Blade Runner (1982) de Scott semblava un punt culminant en la història del gènere. En general he intentat mantenir-me dins de les fronteres del gènere, però a vegades he acabat acostant-me a altres obres que si bé no són directament atribuïbles a la ciència-ficció no estan tan lluny, almenys com a plantejament d’experiments mentals. Així, al llarg del text apareixeran autors com Buñuel o Lynch. Però, excepte aquestes comptades excepcions, he intentat mantenir-me dins dels límits reconeixibles del gènere. Això sí, les pel·lícules són utilitzades moltes vegades no tant pel que expliquen sinó pel que projecten. Més que pel·lícules vistes, són pel·lícules llegides, si és que això és possible, per a connectar-les amb alguns dels principals problemes metafísics que ens aguaiten des de l’aparició de les màquines a la nostra vida. Problemes que, d’altra banda, tampoc han canviat tant.

Per això Dejad que las máquinas vengan a mi no tracta tant de màquines com de nosaltres. S’utilitza a les màquines com a mirall d’allò que som molt més que per a parlar de les màquines en si. I de com les màquines i la transformació del món que provoquen obren un espai especular on veure’ns reflectits. Poden les màquines promoure aquesta reflexió ontològica? Jo crec que sí. I no només perquè les màquines defineixen un món i a nosaltres, els seus habitants. També perquè les màquines, la seva constitució i fonament, són una projecció del que pensem, són la nostra constitució i fonament. Les màquines, que primer eren una projecció nostra, ara ens reflecteixen. I aquesta imatge és la que es vol analitzar en aquest llibre. Una anàlisi que també és una obligació, les màquines comencen a estar tan prop de nosaltres que ens trobem davant la disjuntiva de rendir-nos al seu assalt contra la idea d’allò humà o bé de redefinir-nos. El primer capítol investiga aquest assalt en allò que he anomenat el desplaçament ontològic i explora els diferents escenaris en què es pot plantejar aquesta redefinició. El segon analitza les bases per a aquesta nova definició d’allò que som a partir del Principi de raó suficient, això -sigui el que sigui, i al llarg del llibre es proposen i destil·len diferents alternatives- que ens constitueix com a humans i ens fa diferents de les màquines. El tercer capítol descriu el gir metafísic al qual ens obliga el món maquinitzat, o com les estratègies de definició d’allò humà, sobretot el llenguatge i els afectes, han estat desmantellades a causa de l’avanç de la metafísica, fonamentalment des de la meitat del segle passat. El quart explora l’impacte ontològic de la màquina, a través del qual es redefineixen dos vells debats però no connectats, la relació jo-alteritat d’una banda i la diatriba entre realisme i antirealisme per una altra, els plantejaments tradicionals del qual han estat superats per la formalització del món a la qual ens ha obligat la màquina, ja que aquesta només pot operar en un món altament formalitzat -allò que a un altre lloc he anomenat món-fet, davant del món donat on fins avui s’ha mogut tant el món com la metafísica. El cinquè narra l’assalt de la màquina a l’últim bastió de l’humà, la vida i les seves vivències; i com aquest assalt ha estat provocat pel mateix humà en generar allò que he anomenat l’estrenyiment ontològic d’això que hi ha, motor inicial de la formalització del món i principal responsable de l’aparèixer del món avui. I, en l’últim, esbosso alguna cosa que podria considerar-se un contra-Test de Turing, és a dir, la prova d’humanitat, una vegada vençuts tots els bastions que ens feien humans i per tant diferents de la resta d’allò donat, recau en les màquines. Ja no és la nostra feina decidir si una màquina és humana o no sinó que és la màquina la que ha de decidir si som humans o no.

És cert que molts dels escenaris que es discuteixen al llarg de les pàgines de Dejad que las máquinas vengan a mí estan succeint ara mateix, per la qual cosa la seva definició conceptual moltes vegades és nebulosa. Per aquest motiu, aquest és un assaig que parla d’allò que som però que no es nega a arriscar-se i parlar d’allò que podríem ser una vegada ens trobem cara a cara amb una màquina tan capaç com un humà. És per això que és una antropologia del futur, un avançament d’allò que potser ens espera com a espècie. Una antropologia que busca pensar el demà per a repensar l’avui, si és que aquestes categories temporals segueixen conservant algun sentit. Dejad que las máquinas vengan a mí és un viatge en el temps, a vegades milers d’anys cap endarrere i a vegades uns quants cap endavant, per a arribar fins avui. Dit això, m’agradaria passar als agraïments. En primer lloc, voldria agrair el suport tant afectiu com logístic que m’ha ofert Laura Durán per a la confecció d’aquest llibre.

A més, no puc oblidar-me de les meves filles, amb les qui he vist moltes de les pel·lícules aquí esmentades i els comentaris de les quals moltes vegades m’han obert els ulls a noves interpretacions i arguments. Sense la seva ajuda moltes de les tesis d’aquest llibre haurien estat unes altres. I, segurament, pitjors.

També haig d’agrair a Albano Cruz la seva participació en les nostres sessions de Tamagotchi, un cicle de conferències que donàvem al voltant del concepte d’allò humà i les seves modificacions a través de la tecnologia. Moltes de les idees que es plantegen aquí estan estretament vinculades amb allò que vam explicar en aquells CSR de Madrid, Valladolid, Burgos, Vigo… així com en la mateixa Llibreria Enclave i al Medialab. De fet, aquest llibre és la meva versió d’aquelles xerrades. O, més ben dit, part d’aquest llibre és la meva versió d’aquelles xerrades. D’allò que vaig aprendre en aquelles xerrades. Des d’aquí el meu agraïment a tots els qui van suportar les 18 hores de discurs, les tres sessions de 6 hores cadascuna durant les quals Albano i jo tractàvem la fusió de l’home amb la tecnologia des d’un prisma lògic, ontològic i ètic; i no sols això: malgrat la nostra retòrica encara tenien ànims per a preguntar, qüestionar i refutar el nostre discurs. Aquest llibre és, en bona mesura, un homenatge a tots aquells assistents. Estic segur que tard o d’hora Albano escriurà el seu.

I, per a acabar, vull agrair la perseverança i la fe en mi mateix, moltes vegades superior a les meves pròpies, dels meus editors, María i Pino, cor i pulmó, cervell i sang de l’Editorial Enclave. Sense ells aquest llibre mai hauria assolit el format llibre i mai ho hauria fet d’aquesta manera.

I, per a acabar, gràcies al lector. Perquè, a partir d’aquest moment, tot el que llegeixi aquí li pertany, ho vulgui o no.

Nota: La traducció és nostra.

A Dejad que las máquinas vengan a mí, dius que estem en procés de deshumanització a causa de la irrupció de les màquines. En quin sentit és així? El llibre és un cant a la tecnologització de la vida?

El títol és un joc de paraules. “Deixeu que els nens vinguin a mi”, diu Jesús a la Bíblia. Però aquesta no és una frase neutra. Els nens són el futur de l’església. Són els qui cal convertir. Llavors, “deixeu que les màquines vinguin a mi” significa que cal convertir a les màquines. D’altra banda, pot dir-se que Jesús era un marrec amb superpoders. Segons els evangelis apòcrifs, que conten la infància de Jesús, un nen l’empeny i ell respon “Tant de bo caiguis mort”. I el nen cau mort immediatament. És a dir, de sobte, el llenguatge de Jesús adopta una fórmula tèlica. Els verbs tèlics inclouen el seu final, tal com passa amb “acabar”. I, en certa manera, els algorismes també ho són. Això sempre ha impregnat la imatge de déu: un ésser que pot fer complir allò que anuncia. Però nosaltres, amb les màquines, també donem ordres que s’executen. Ordenem tota l’estona com ens comportem respecte als altres i respecte al món. El que passa és que a força de dibuixar-nos a través de les màquines, ens hem dibuixat com a màquines. I cada vegada ens hi assemblem més.

La veritat és que a mesura que les màquines adquireixen atributs humans, com la intel·ligència o la creativitat, cada vegada és més difícil separar allò humà d’allò artificial. Introduint les màquines a l’equació, què queda de nosaltres i què ens defineix com a humans?

Jo parlo del Principi d’Humanitat Suficient, fent un altre joc de paraules amb el Principi de Raó Suficient de Leibniz. En realitat no ens estem deshumanitzant perquè mai no hem tingut clar què és ser humà. Sempre ens hem aferrat a l’excepció: som allò que els altres éssers no són. El problema -o potser la virtut- és que, amb les màquines, tot allò que ens feia excepcionals s’ha anat erosionant. Quan Leibniz va fabricar una calculadora, les màquines van saber sumar. Fins llavors, podríem haver pensat que el càlcul numèric era allò que ens feia humans. Però, al final, això de la humanitat s’ha convertit en una mena de carxofa i anem perdent fulles. I què en queda, de nosaltres? En realitat és igual l’atribut, perquè l’important és que ens preguntem què som. Aquesta pregunta no té cap sentit per a una màquina. El que passa és que la tecnologia ha contribuït a fer petit el món. El problema són les lògiques que hi ha darrere de les màquines, que beuen de la tradició aristotèlica i passen per Ramon Llull, Leibniz, … Però les màquines també podrien ajudar-nos a ampliar els punts de vista i les maneres d’estar en el món. Per a això caldria repensar la tecnologia des de zero. I caldria utilitzar altres aparells lògics subjacents que poden obrir camps estadístics més complexos.

Deixar de perseguir el Principi d’Humanitat Suficient seria una forma de llibertat?

Clar, és un llast. Trenquem les categories que ens impedeixen pensar-nos d’altres maneres. Les màquines reflecteixen la nostra lògica occidental, masculina i, en termes d’Adorno, de domini de la realitat, d’administració de la realitat i de la vida, que en realitat és l’exclusió de la vida. La vida és molt difícil de formalitzar i, no obstant això, totes les estructures estan super formalitzades. Comencem a trencar aquestes lògiques binàries que divideixen el món entre el jo i l’altre, entre home i dona, entre animal humà i animal no humà, entre persona capacitada i no capacitada, etcètera. Trenquem aquestes dicotomies que tanquen el món en capsetes que, al seu torn, ens tanquen a nosaltres. Perquè així és com perdem maneres de viure i d’experimentar una realitat que és més rica que nosaltres. Sobretot perquè, en general, a la realitat no li importem gaire.

Barrejant filosofia i etnografia, has traçat mapes del futur per a empreses com Ikea; mentre que Dejad que las máquinas vengan a mí es diu que és una antropologia del futur. Cap a on anem?

Els treballs per a empreses solen ser més banals, perquè aquestes quantifiquen la realitat amb els diners. Els escenaris més o menys especulatius que els presento són relativament fàcils de dibuixar. Però en les antropologies, afortunadament, no tot és quantificable i hi ha molta part d’inferència. Quan parlem de la condició humana, tot és més complicat perquè és molt més obert. Jo no tinc massa clar cap a on anem, però si continuem escoltant als homes blancs occidentals, en els quals m’incloc, tal com ho hem fet durant els últims 2.500 anys, continuarem retallant una gran quantitat de mirades possibles a nosaltres mateixos i al món. Per tant, els homes blancs occidentals hem de fer un pas enrere i deixar que altres entitats parlin. I això passa per escoltar les dones, com a gènere i com a institució política, i no opinar. Passa per eliminar aquesta construcció de domini sobre la dona, sobre els animals, sobre el planeta i sobre nostre estar en el món.

D’altra banda, sempre havíem pensat que la intel·ligència ens feia superherois i, de sobte, amb les màquines, ha quedat en no-res. Però en aquest no-res hi ha moltíssimes virtuts. En el Zarathustra, Nietzsche diu que al nostre cos hi ha molta més intel·ligència que en cap de les idees que generi mai el nostre cervell. I té raó. Diem intel·ligents a les màquines quan en realitat la intel·ligència és un resultat de la vida i no de quantificacions o formalitzacions alienes a ella. Intel·ligència és acceptar-nos com a entitats vives, tenint en compte que nosaltres no vivim la vida, sinó que la interpretem. El llenguatge ens separa de la vida i ens fa interpretar el que som contínuament.

Els dibuixos del futur que hem plasmat en la ciència-ficció -com Blade Runner, District 9 o Matrix– són quasi sempre distòpics. Hi ha lloc per a l’esperança?

Sí que n’hi ha. Ens hem vist en pitjors situacions. Sempre ens hem sentit excepcionals i per això hem imaginat per a nosaltres un final de l’hòstia: l’apocalipsi, la destrucció del planeta, … Però, com deia Gramsci, les narratives d’allò nou estan una mica esgotades. Allò nou no acaba de sorgir i ens fa por. Però no perdem la perspectiva històrica. Locke, el pare de moltes de les nostres idees polítiques actuals, va haver de fer front a una realitat molt més fotuda, la de les monarquies absolutistes. I per a això va caldre matar a Déu. I, de la mateixa manera, segurament nosaltres hem de matar els diners, que li donen valor i sentit a la realitat. Ara fem coses que per als nostres avis era impensable, com llogar les nostres tasses del vàter a Airbnb. Ho hem ficat tot al mercat. Però hi ha espais on els diners no poden entrar. El gran fracàs de la pandèmia no és només el sistema liberal anglosaxó, sinó també la idea que les multinacionals anaven a substituir l’estat-nació. Però allò que ens guarirà és una vacuna subministrada per un Estat.

A més, amb la pandèmia s’ha produït una reducció del món inesperada. Ens hem cenyit als mínims possibles de producció i consum. De sobte, han desaparegut la indústria cultural, el disseny i un munt d’indústries col·laterals que abans eren importants i ara sembla que no serveixen per a res. Perquè no van a favor de la vida. Perquè formen part d’aquesta capa ideològica que ens havíem construït, on els diners eren molt valuosos. Però no necessitem els diners per a explicar la realitat. Potser ara crearem nous espais aliens al mercat, perquè hem vist que el mercat peta. Que la realitat governada pel mercat no existeix; era una ficció. Hem de començar a pensar-nos més enllà de la transacció, més enllà del valor econòmic i d’un business plan.

La situació actual és una mica distòpica. A més, amb el distanciament social ha passat una cosa curiosa. Com dius als Tres apuntes morales sobre la pandemia, nosaltres ens hem convertit en amenaça per als altres i viceversa i, a més, construïm comunitat allunyant-nos els uns dels altres.

Sí, és com una mena d’antinòmia. Però em sembla molt bonica. Sartre deia que l’infern són els altres. Que els ulls dels altres poden veure’ns cometent una falta. Que els altres poden denunciar-nos. I, de sobte, amb la pandèmia, l’infern som nosaltres. El vector de transmissió som nosaltres. De cop i volta, ens reconeixem com a lesius. Però l’home blanc occidental mai s’ha sentit amenaça, i quan s’ha sentit amenaça en realitat és perquè l’ha executat. Això erosiona la seva posició de poder perquè ha de desplaçar-se cap a un territori que mai ha ocupat: el de l’altre. I això trenca una mica les lectures tradicionals del jo, la masculinitat, els masclismes. Vindrà una crisi econòmica brutal i el sistema en sortirà malferit, però em sembla que ens pot fer pensar-nos de maneres diferents.

Continuant amb les distopies, Matrix introdueix la gestació en úters artificials -allò que es coneix com a ectogènesi– mentre la nova de Blade Runner (2017) introdueix la natalitat dins de l’univers robot. Si això acaba succeint, quines conseqüències tindrà per a les dones? Les podria alliberar o tot just al contrari?

Una de les idees dels projectes feministes que han quallat més enllà del feminisme és que la biologia no és destí. És a dir, que no tenim per què fer cas als dictats dels nostres cossos. Crec que qualsevol cosa que permeti superar el destí, perquè possibilita ampliar les maneres d’ocupar la realitat, és bo. Aleshores, si l’ectogènesi allibera la dona de ser l’esclava de tenir fills -i dic esclava perquè de moment és l’única que pot fer-ho-, em sembla perfecte. Que després hi haurà dones que decidiran tenir fills per via intrauterina? Doncs fantàstic. Després podríem plantejar-nos si l’ectogènesi dins d’un aparell capitalista beneficiaria o no a les dones, però estaríem qüestionant més l’aparell capitalista i no tant la tecnologia per se. Encara que també és cert que no hi ha tecnologies neutres, però això és un altre debat.

I, per altra banda, hi ha la qüestió de la maternitat a Blade Runner. De sobte, si els robots poden tenir fills, sorgeix la pregunta de què passa si la capacitat d’engendrar vida tampoc ens defineix com a humans. Encara que jo no sóc més humà per ser fill intrauterí de la meva mare. La dependència de la carn és una estupidesa. Allò perillós és que la filla robot sigui digital i no analògica. I el nostre cos -aquesta intel·ligència de la qual parlava Nietzsche- és super analògic. Perquè és la nostra integració amb el món, una continuació del món. I algunes tecnologies són una mena d’exclusió de la vida. Estem inventant un tercer estat entre la vida i la mort, que és allò que jo anomeno infravida. Infravida també és l’estat de les gallines amuntegades en els inferns de les granges avícoles. És una culminació del domini de la vida. És l’epítom de la lògica que va d’Aristòtil a l’algorísmia dels ordinadors, i no un reconeixement a la vida com allò inesperat, diferent, obert.

Entre altres coses ets assessor ètic d’empreses. Com evitar que el teu treball es quedi en el blanqueig ètic d’un business plan?

Jo intento definir els marcs ètics en què operen les companyies i, clar, sempre intento que no quedi en un blanqueig ètic. Un marc ètic és un conjunt de pràctiques que l’empresa pot fer abans de generar danys a tercers. I això no ha de confondre’s amb una forma de consol. En primer lloc, l’ètica no pot venir donada des de fora. Són les mateixes companyies les que han de descobrir quin és el seu marc ètic. No m’interessa tant fer-los un decàleg com plantejar-los com poden fer bé allò que fan. Després, cal definir el “bé”, i molts solen anomenar-lo “impacte positiu”. Perquè aquest impacte positiu sigui real, cal veure a qui afecta i de qui depèn. I per a això cal analitzar tota la cadena d’involucrats, on sempre s’amaguen sectors o poblacions més desfavorides, més mal pagades, menys qualificades, … Hi ha una llei que, en aquest moment polític actual, pot ajudar-nos amb això: “Sempre del costat del perdedor”. És a dir, tenir en compte que sempre hi ha un perjudicat. Intentar definir qui és el perjudicat en la cadena de valor per a perjudicar-lo el mínim o, si és possible, empoderar-lo. I, a partir d’aquí, ampliar aquest cercle virtuós als treballadors, a les persones, a la comunitat on treballes, etcètera. La idea és evitar que només quedi en un business plan i, perquè això passi, han de donar-se dues condicions: la primera és que les persones facin seu aquest marc ètic i, la segona, i la més important, és construir polítiques que obliguin a executar-lo. No hi ha res pitjor que tenir una visió moral d’allò que fas i no ho compleixis.

El món està molt fragmentat i tenim un camp de visió molt estret. En el terreny empresarial, hi ha manera d’evitar ser esclau del sistema i no convertir-te en un engranatge més?

Sobre això s’ha escrit molt. La construcció seriada de la realitat parcel·la la nostra capacitat d’actuació i la nostra responsabilitat moral. Imaginem que hi ha un milió de torturadors amb un milió de dispositius que només emeten un volt. Cap d’ells, aïlladament, electrocuta el torturat. Allò que mata és la suma dels volts. Què és allò que els faria moralment responsables d’aquesta mort? El fet de saber que, si tots apreten el botó al mateix temps, provoquen una mort. Potser cal tornar a perseguir la majoria d’edat kantiana, i assimilar que si seguim comprant segons quina roba estem fotent a algú. Però d’allò que no ens podem alienar responsablement és de no mirar. No podem dir que no ho sabíem, perquè tots sabem quina és la realitat. Quan Amancio Ortega regala milions d’euros en material sanitari està comprant l’aprovació moral de la societat. Però en realitat el seu problema moral és no haver respectat als perjudicats de la cadena de valor de les seves empreses.

Llavors, com fer que aquest marc ètic no quedi en pur blanqueig? Cal posar límits a les nostres accions, perquè potser els nostres guanys no compensen el mal que fem. És un pensament una mica antiutilitarista. La idea que el benefici de les majories val més que el perjudici de les minories és mentida. Si el benefici es crea matant a algú, mai podrà compensar-se el mal. Per això, com ha passat amb la pandèmia, la clau és prendre consciència que som amenaça.

1. “Els mitjans de comunicació, Wikileaks i les xarxes socials van començar a escampar informació sobre les tècniques d’espionatge dels Estats Units i els seus aliats. Aquell degoteig de filtracions encara dura, fins al punt que gairebé s’han normalitzat les notícies sobre la vigilància massiva. Però ningú ha anat a la presó i l’espionatge continua.”
2. “Allò rellevant del telèfon intel·ligent no és la seva dimensió tecnològica, sinó el seu ús social: es tracta d’un aparell que portem a tot arreu amb nosaltres, que sol integrar totes les facetes de la persona (treball, amistats, hàbits de consum, activitat política), que serveix com a arxiu de les seves vivències i que concentra gran part (si no la totalitat) del seu historial relacional. A hores d’ara, qualsevol adversari sap que n’hi ha prou amb fer-se amb el control del telèfon per a accedir a un riu d’informació rellevant de manera immediata.”
3. “Seguint la regla d’or «no existeix una informació més ben protegida que aquella que no arriba a generar-se», has de desenvolupar l’art de saber quan no produir cap informació.”
4. “Atrapats com estem en aquest nou paradigma, irremeiablement hem d’aprendre a moure’ns en un mitjà que ens és hostil. Se’ns ha llançat al tatami cibernètic sense rebre cap instrucció prèvia, i això ens fa summament vulnerables davant d’adversaris que són més poderosos, més perseverants i més experimentats que nosaltres.”
5. L’anonimat, com a necessitat diferent de la seguretat o la privacitat, ha estat un recurs necessari en moltes ocasions històriques, actuant com a mesura de prevenció per limitar la superfície d’atac de l’adversari: sabut és que no pots colpejar allò que no pots veure. Ho il·lustren a la perfecció les filtracions d’Edward Snowden, que va haver de mantenir la seva identitat real en secret per a establir contacte amb la premsa sense cridar l’atenció de la NSA americana. (…) Més que «seguretat», l’anonimat ofereix una protecció similar a la del camuflatge, que serveix per allargar la fase d’identificació prèvia a l’atac”.
6. “L’ús d’un terminal mòbil comporta la monitorizació de la localització física aproximada per part del proveïdor i d’aquells tercers a qui el proveïdor proporcioni accés. Aquesta circumstància ha d’avaluar-se també des d’un punt de vista col·lectiu. Es pot deduir que dos o més persones es desplacen juntes si els seus telèfons es van connectant a les mateixes antenes al mateix temps quan es mouen.”
7. “Cada any som testimonis de com diversos proveïdors pateixen atacs i bretxes de seguretat en què es veuen compromeses centenars de milers de contrasenyes: Adobe, LinkedIn, PlayStation… No reutilitzar claus et protegeix fins i tot en cas que un atacant arribi a descobrir quina és la teva contrasenya en un servei, de manera que no pugui utilitzar-la per a accedir als teus altres comptes. Si, per contra, tens una mateixa clau que utilitzes per a tot, en cas que algú l’aconseguís guanyaria un accés integral a la teva identitat online.“
8. “Una aplicació pot arribar a accedir a pràcticament tota la informació i sensors del nostre telèfon si té els permisos adequats: identitat, contactes, informació del wifi, localització GPS, SMS, trucades i fins i tot micròfon o càmera. La informació que recopila una aplicació és per tant molt major, i com a usuaris hem de decidir amb cura quines aplicacions tenen accés a quines dades en el nostre telèfon.”
9. “Existeixen diverses eines que relacionen els teus «m’agrada» o retuits amb moviments socials o ideologies polítiques afines, i això li concedeix un poder més gran al teu adversari. Com més informació generes, més fàcil és situar-te en una base de dades ideològica ben detallada, tenint en compte el teu rang d’edat, ciutat i cercle social. O pitjor encara, també existeixen eines online que es dediquen a classificar tota la informació que hagis generat en els teus perfils perquè amb un sol clic quedi exposada per categories.”
10. En la missatgeria instantània, “si algú pren la decisió personal de no protegir-se, la seva decisió individual repercuteix ipso facto en la seguretat i privadesa del conjunt de comunitats de les quals forma part. La seguretat és un esport d’equip: intentem que tot el nostre entorn habiliti un codi de desbloqueig i xifri l’aparell per evitar que terceres persones puguin accedir al seu contingut, que en bona part serà contingut que pot exposar la seva xarxa de contactes.”

Nota: La traducció és nostra.