Peu de foto: La ‘màquina humana’, de la pel·lícula Metropolis (1927), va ser el primer robot representat al cinema, dut a la ‘vida’ per l’actriu Brigitte Helm. 

El canal de Filosofia i Disseny de Telegram va néixer com un quadern de notes on apuntar les nocions bàsiques sobre les quals havia de girar el curs d’introducció a la filosofia del disseny, El disseny de nosaltres mateixos, la primera edició del qual s’anava a impartir l’octubre del 2019. Però se’m en va anar de les mans. Les meres notes van convertir-se en llavors d’on van florir arguments filosòfics al voltant del disseny. I aquests arguments van empeltar-se els uns amb als altres fins a unir-se en un mateix tronc: allò que va començar en forma de meres anotacions a rajaploma havia acabat constituint l’eix central d’una lectura filosòfica del disseny. Havia nascut el llibre homònim El diseño de nosotros mismos. Una lectura filosòfica del disseny (Experimenta Libros). Un tractat que intenta traçar ponts entre dues disciplines que tradicionalment s’han donat l’esquena, quan no s’han menyspreat. Una escletxa que calia superar. Que era urgent superar. Perquè la filosofia compta amb una llarga tradició d’eines analítiques que ens permeten un millor enteniment del disseny, la seva pràctica i el seu resultat. I perquè el disseny trenca amb molts postulats filosòfics previs que es consideraven inamovibles i, si alguna cosa il·lumina la filosofia, és el qüestionament.

Aquestes notes són el record d’un viatge d’anar i tornar. Un viatge que parteix de la tecnologia i el seu ús per acabar en la tecnologia i la seva expressió, el disseny. I tornar una altra vegada. I una altra vegada. I una altra… Aquestes notes que aquí apareixen publicades s’obren també a la crítica de la tecnologia, atès que el disseny és inintel·ligible sense ella. De manera que s’ajusten millor a l’audiència de La Tecnòloga, a qui m’agradaria agrair els seus esforços i ànims incansables per a la seva publicació. De fet, al canal de Telegram s’entén el disseny com l’expressió de la tecnologia, entre altres coses. I és que el disseny sense tecnologia deixa de ser-ho per ser una altra cosa, un mal record de l’artesania. Així que allí es parla ara molt sobre tecnologia. És el viatge de tornada…

Un viatge de tornada també a una antiga passió meva, l’ètica. Perquè en aquesta selecció que es presenta ara apareixen algunes anotacions sobre els avanços de la intel·ligència artificial (IA), la biotecnologia, el reconeixement facial… i com aquestes tecnologies estan començant a despertar fantasmes ètics que crèiem superats. I, el més interessant, és que es proposa una solució.

Una altra cosa és que ningú en faci cas.


Sobre l’autor:

Luis Montero va néixer el 65. Va estudiar Filosofia a la UNED i Publicitat a la Complutense. Ha estat guia turístic, creatiu publicitari i consultor estratègic. Ha viscut a Madrid, Nova York, Londres, Frankfurt, Marràqueix, Benarés i ara a Palma. Ha escrit les novel·les de ciència-ficció Artrópodos, Feliz Año Nuevo i Clon i els assajos sobre ontotecnologia Mundo-hecho i Dejad que las máquinas vengan a mí. D’aquí a dues setmanes apareix El diseño de nosotros mismos. Una lectura filosòfica del disseny. Llibre que complementa i aprofundeix en algunes de les notes aquí publicades. A més ha publicat en diversos mitjans, La Tecnòloga entre ells, on va aparèixer el diàleg D’humans, màquines i altres éssers que senten. Últimament procura gaudir de la vida i anar amb bicicleta.

Podeu llegir aquest article en versió original (castellà) en aquest enllaç.


Notes sobre tecnologia (sel·lecció de l’autor)

1.- La discussió sobre l’ètica de les IAs està fatal enfocada. Tot déu tem que ens matin quan el que havíem de témer és que no ens matin. Com a espècie històricament hem demostrat molt baixa tolerància als exterminis massius però altíssima a les formes de tirania que mantenen la vida, per dolentes que siguin les seves condicions.


2.- Hi ha un fons polític efecte de la producció tecnològica de la realitat sobre el qual es demanen respostes ètiques.

2.1.- Es pretén buscar una bona vida en un entorn polític que ignora –quan no impossibilita– aquesta bona vida (al contrari del que succeïa en, per exemple, Aristòtil, l’ètica del qual també està alçada sobre un fons polític que la sustentava i feia possible; però, potser al contrari del que passa ara, aquella política sustentava l’ètica dels qui vivien les condicions polítiques d’Aristòtil –l’home propietari i, per tant, lliure– i no de la majoria. Aquella ètica estava igual de segrestada, però l’hem romantitzat. Per què l’hem romantitzat? A part de l’argument d’autoritat -ei, que és Aristòtil!-, hi ha la contradicció entre aquella ètica i la política que la feia possible i la relació entre la nostra política i la impossibilitat de l’ètica). L’ètica pateix un segrest, el segrest de la política, que la redueix a la redempció personal dels actes i les seves conseqüències. La vida es redueix a cadascun dels actes, a la seva suma potser, però una suma que no té un resultat final o el resultat final del qual es limita a l’enumeració dels actes, com aquesta passada de diapositives mítica que en diuen avantsala de la mort. És una vida estreta, algebraica. De l’ètica reduïda a les conseqüències dels actes no resulta una vida bona. Una vida es compon d’actes, sí, però no només. I ni tan sols els actes han de ser el component fonamental: en aquest cas algú impedit a realitzar algun acte sigui per discapacitat o per tancament no podria qualificar-se com a capaç de viure una vida plena. Aquí el tot és major que la suma de les parts. Gairebé fins i tot es podria dir que d’aquesta reducció o segrest ni tan sols resulta una vida.

La teleologia utilitarista és peanuts davant la teleologia aristotèlica. L’ètica d’aquest no tractava d’avaluar un acte concret sinó aixecar una vida.

2.2.- Per això el problema del disseny és més polític que ètic. O dit d’una altra manera: la producció tecnològica de la realitat és una estructura política i una ètica no pot ser més que un sistema. I un sistema no pot anar a contracorrent de l’estructura que el suporta. El sistema no pot negar l’estructura que el sosté.

2.3.- I, no obstant això, la generalitat –que no abstracció– de l’imperatiu kantià allunya tantíssim allò moral de les nostres vides, de qualsevol vida, que és impracticable per inaplicable. Si el conseqüencialisme es dissol en la immediatesa fins a perdre de vista aquest horitzó que és la vida, el kantianisme funciona si, al contrari, la vida se subjuga i dissol en aquest sistema reglat. I amb aquesta dissolució es perd la vida. També.

De fet, i com apunto a Dejad que las máquinas vengan a mí, la tecnologia –i per tant el procés de producció industrial de la realitat– parteix del que allí anomeno «error metafísic» perquè tota màquina –i més les IA– és kantiana per definició: porta incrustada en si la definició del món en el qual opera, l’ontologia. Així doncs sobre aquest fons kantià es pretén pensar una ètica que possibiliti una vida bona i al mateix temps estigui subjecta a aquest teixit legiforme kantià de la tecnologia.

2.4.- En aquest sentit de l’acceptació del polític com a substrat sobre el qual floreix –l’avui tan de moda flourish saxó– per ètic s’entén el ressorgir de l’anomenada ètica de les virtuts. L’ètic resideix en el caràcter del subjecte que viu privilegiat pel polític. Tal com succeïa amb Aristòtil, qui podia atribuir al caràcter –i per tant al subjecte– les virtuts morals, virtuts morals que partien d’un i revertien en un, entre altres coses perquè l’altre que també disposava de caràcter era igual que l’u, això és, estava en la mateixa situació política. Però aleshores com ara aquesta situació no sempre és compartida per tots. De fet, gairebé mai. Si bé aquestes ètiques de la virtut prenen constància dels diferents caràcters de cadascun de nosaltres suposen que tots partim d’una mateixa situació política des de la qual la distància i dificultats per a arribar a l’acte moral és el mateix.

3.- Davant les crítiques estereotipades dels perfils més conservadors al canvi en l’espai públic, abans solia dir mig de broma mig de debò que no és que ara estiguem pitjor educats, és que tenim més oportunitats de molestar. I moltes d’aquestes oportunitats són causades per objectes de disseny (altaveus sense fils, envasos portàtils, vehicles elèctrics omnipresents, etc.). Molts dels problemes que genera el disseny no són tant existencials –que requereixen solucions ètiques– com de convivència –que requereixen una reformulació d’allò que significa viure en comunitat–. L’educació en la seva accepció disciplinària, no pedagògica, se’ns ha fet gran. Cosa que no està malament i per la qual hem sospirat en innúmeres ocasions per la cosa hipòcrita que hi havia darrere de la salutació desapegada, però que ara ens enfronta a uns mores (sí, l’avantsala d’allò moral) que no sabem redefinir sense recaure en una moralitat de nou castradora. De sobte el xaval que escolta trap a tot volum a la plaça ens ha retratat a tots.

I no ens agrada com sortim a la foto.

3.1.- La convivència no es basava tant en el costum com en l’acceptació d’aquest costum. El disseny, gran productor d’objectes que fan fallida i inhibeixen aquesta convivència o, almenys, la qüestionen, podria produir el benèfic efecte insospitat d’obligar les comunitats a haver de negociar les pautes de convivència amb cada nou objecte que la desequilibra. Però aquí s’anticipen dos problemes: d’una banda la incapacitat de la comunitat d’articular aquestes negociacions –incapacitat que explica l’acceptació submisa al costum– i per una altra la curtíssima shell life que imposa el mercat a la producció de la realitat. Encara que el primer problema no es donés i la societat fos capaç de negociar al mateix temps que apareixen nous objectes desavinents –que amenacen la convivència–, la creixent velocitat d’aparició d’aquests objectes, que no és d’estranyar que es veiés impulsada per aquesta capacitat d’acceptació, ja que l’objecte de disseny ha de xocar per a no ser fons, aquesta creixent velocitat empenyeria a la societat cap a dos extrems, tots dos extenuants però per diferents raons. O bé la comunitat es convertiria únicament en l’espai de la negociació, una negociació eterna i accelerada donada l’aparició eterna i accelerada d’objectes que, al seu torn, es veiés impedida a acceptar aquests objectes per falta de temps, tot aquest dedicat a una esgotadora negociació. O, a l’extrem oposat, que enviés a pastar fang l’educació i, amb aquesta, la convivència.

Que és on sembla que estem. O cap a on ens dirigim.

3.2.- Però amb una diferència. Aquesta negació de la negociació –i per tant del canvi: no oblidem que la història de la humanitat és la història de la negociació per a l’acceptació del canvi, un canvi que ha comportat 25 segles a occident perquè acabem aquí– no part d’una decisió voluntària dels membres de la comunitat –que és l’òptim buscat quan des de la tradició es critica el costum: aquell denunciar l’educació com un sistema de control i coerció– sinó que és una condició exògena a la comunitat a la qual no sap reaccionar. A la qual no pot reaccionar. Perquè, ja se sap, sense negociació no hi ha acceptació.

3.3.- Si Thatcher va dir «No existeix la societat, existeix l’individu», avui podríem afirmar «No existeixen societat ni individu, existeix l’objecte».


4.- Abunden –o comencen a abundar– els llibres de tecnòlegs i dissenyadors proposant solucions ètiques per a la tecnologia i el disseny. I a mi sempre em xoquen. I no sols perquè em sembla que la solució ètica no pot venir de la part que genera el problema, ningú té aquesta equanimitat –ni tan sols Moore quan afirmava que en tot acte hi ha un punt de vista objectiu, que és el de l’altre afectat… que és cert que n’hi ha, però pretendre que el patró moral sigui aquest és pretendre que siguem sants: no sempre puc actuar amb la mirada de l’altre, entre altres coses perquè desconec la seva mirada, és impenetrable–, sinó perquè aquests llibres de tecnòlegs i dissenyadors escrivint ètiques de tecnologia i disseny em sonen a exercici de capellanets. Són llibres en certa manera redemptors. Un «va, ànim, nois, que no som tan dolents, que podem fer-ho bé», potser necessari, però que té molt poc a veure amb l’ètica, té a veure amb el consol –un consol injust, perquè el tecnòleg i el dissenyador estan en un espai de poder, i no sols polític–.

4.1.- Però no em xoquen per això, em xoquen per alguna cosa més densa. El disseny és un exercici de creació. I els discursos redemptors ho són precisament perquè tot exercici de creació és fallit. I vaig amb un exemple més gran. No hi ha creador més gran que déu, que en la seva teoria ho ha fet tot. Bé, acceptem-la per un segon i com a experiment mental. Si ho ha fet tot, per què ens ha d’enviar un redemptor (que sempre ens imposa una moral, per cert)? Perquè la creació és imperfecta i hem d’ajustar-nos a aquest patró moral per a salvar-nos. Hi ha salvació condicionada, i només condicionada. La salvació és un condicional fort, si i només si. Però per als qui no tenim moltes ganes de salvar-nos, perquè tampoc pensem que calgui salvar-nos de res, és a dir, per als qui no pertanyem al marc, aquesta salvació coercitiva en realitat no manifesta una altra cosa que la imperfecció ontològica d’allò creat i, per tant, del creador. El tecnòleg o el dissenyador ficat a la pell de l’ètic ocupa per mi aquest espai. En comptes de mirar el problema primer, el problema fonamental del disseny, intenta excusar-lo amb una ètica. Com les religions, que per salvar la creació condemnen a mitja humanitat (d’aquí el magnífic problema de les teodicees, que com a exercici són precioses, però insalvables), el tecnòleg/dissenyador-ètic, per a salvar la disciplina condemna l’honestedat intel·lectual.

4.2.- Convé desconfiar sempre dels tractats ètics escrits a favor del P&L [‘profit and loss‘; en català, pèrdues i guanys] de qui els escriu. Ja sigui de capellans explicant que bona és la catequesi per la moral o de tecnòlegs i dissenyadors explicant que bones són les pràctiques per a la consecució de l’objectiu que li demana el client.


5.- Si la moral tingués una base biològica que depengués de la morfologia cerebral, com sí que succeeix amb la cognició (d’entrada només percebem aquells estímuls que el nostre aparell cognitiu percep com a fenòmens, que no són més que una mostra ínfima del total de possibles estímuls que produeix el món), llavors, deia, podríem disposar d’alguna cosa així com una moralitat augmentada. I no em refereixo a comptar amb una base de dades de casos resolts o no, no amb programes per a desenvolupar la lògica inherent a un arbre de decisions, per exemple, sinó a ampliar les fonts dels nostres sentiments morals més enllà de les nostres fisiologies-cossos. Poder, per exemple, participar dels sentiments morals d’un altre. Un dispositiu que te l’enganxes a l’orella, alguna cosa així com un audiòfon, que t’oferís la visió moral d’una tercera persona en una determinada situació. Alguna cosa així com aquell imperatiu d’objectivitat –davant tota decisió moral sempre hem de tenir en compte la perspectiva objectiva, exterior a nosaltres, que dictaminava Moore–, però generat per un dispositiu.

Cosa que em fa pensar que aquest dispositiu ja existeix, és la plaça del poble. On una comunitat vivia els seus mores compartits.

No feia falta tecnologia, sinó convivència.

Però potser aquesta última sigui una sortida massa fàcil. És que la plaça pública no és una forma de tecnologia? Més enllà que sigui tecnologia o no, que és una disquisició que ara no és necessària, el que sí que és és el lloc que propicia la convivència. Arribats en aquest punt apareix la pregunta: podríem crear altres dispositius que ampliessin el registre-sentiment moral, ja fos mitjançant l’ampliació de la convivència, la seva simulació o representació, o qualsevol altra manera d’obrir-nos, de treure’ns del nostre punt de vista moral subjectiu?

Ho acceptaríem?


6.- La inundació de notícies que anuncien capacitats tecnològiques miraculoses deixen poc espai per a la scifi especulativa més enllà de la política. I és tan aclaparador que gairebé l’única lectura possible és la distopia.

I la distopia, la falta de relats de cels oberts i una certa esperança, ens està matant. I no, no parlo d’aquests relats prefabricats per la indústria de producció del tot, com el disseny de futurs, Hollywood o els casos d’èxit de les consultores estratègiques –que en el fons són tres formes del mateix– sinó de les possibilitats de llegir-nos a nosaltres mateixos de formes alternatives, oberturistes, esplendoroses.

Una inundació que ens arriba en el pitjor moment –totes les crisis sempre arriben en el pitjor moment–, quan a més sembla que a força de narrar-ho tot hem esgotat el diccionari i no fem sinó parlotejar.

Potser, i aquí ho uneixo amb tecnologia i disseny, té a veure amb la pèrdua de pes il·locutiu del llenguatge enfront de la capacitat realitzativa del disseny i la tecnologia. M’explico, una mica. Se suposava des d’Austin que hi havia enunciats que tenien un impacte directe en la realitat, que eren com els manaments d’un déu: es complien. «Queda inaugurat aquest pantà!» significava que efectivament aquest pantà havia estat inaugurat –òbviament la referència franquista és a posta, el feixisme és extremadament il·locutiu–. Aquest efecte era allò perlocutiu de l’acte il·locutiu. El perlocutiu és el que succeïa en el món quan s’emetia un enunciat il·locutiu. Bé, perquè el disseny i la tecnologia poden entendre’s com a actes perlocutius que no necessiten actes il·locutius. I si l’economia regeix els usos del llenguatge, aquesta no-necessitat d’enunciats és un estalvi magnífic que semblaria fer l’acte lingüístic superflu.


7.- Una prova, o potser un mer delator, de la rebolcada causal provocada per la tecnologia i esperonada pel disseny –on els efectes són les causes– és que el procés de denominació d’un nou aparell, artefacte, disciplina o eina moltes vegades ve derivat d’un efecte. El GUI es diu així pel que produeix: la interacció amb objectes és més immediata que la línia de comandos. Chromecast es diu així pel que produeix: emetre a la pantalla de la tele allò reproduït a Chrome. UX s’acronomitza així pel que produeix: una vivència en l’usuari. Els exemples són moltíssims, i és una tendència que ve de lluny: el telèfon o el rentavaixella ja duien impresa aquesta manera d’atribució –atribució que potser també respon a l’entorn domèstic on es despleguen aquests objectes; almenys al principi, ja que ara són sobretot d’ús professional (encara que aquesta diferència ja gairebé manca de sentit)–. En aquest sentit el disseny és una excepció, quasi res del que esmentem és anomenat per l’efecte que produeix. La relació entre el nom i la cosa anomenada poques vegades era identificable. Fins i tot tirant d’etimologies, encara que retrocedim al llatí o al grec, arriba un punt que aquesta relació nom-cosa anomenada apareix com a aleatòria. Indesxifrable. No així en el disseny. És aquell remetre de Heidegger a Ésser i temps propi de tota eina tecnològica.

7.1.- En certa manera l’efecte és el sentit (l’efecte que hauria de ser contingent passa així a universal).

7.2.- Aquest universal impedeix la resignació del dissenyat, acció política proposada moltes vegades com a forma de reapropiació. Exemples d’aquestes propostes n’hi ha molts.

7.3.- No obstant això, qualsevol reapropiació és impossible quan no hi ha cap distància en la relació entre significant i significat i quan aquest, a més, s’ha convertit en universal, sempre el mateix.


8.- La intel·ligència respon a la vida i no al contrari. El mateix hauria de succeir amb la IA, si no volem que es giri contra la vida. Ara bé, per a això la IA hauria d’estar viva. I això és poc probable –i no només perquè estem més lluny encara d’emular la vida que d’emular la intel·ligència–.


9.- L’impacte de la quarantena en la interintimitat. Avui pensava que, si la quarantena té alguna virtut, és que ens permet centrar-nos a cuidar als qui són a prop, als qui estem més pròxims. Els qui a Dejad que las máquinas vengan a mí vaig definir com l’altre-jo, aquells que estan en aquest costat del pal del selfie. L’excepcionalitat de la situació ens ha fet conscients de la importància de les cures d’aquests altre-jo. Però aquesta proximitat amb l’altre-jo, sobre la qual es construeix aquesta interintimitat que s’expressa en selfie comuna –el self compartit com a expressió visual de l’altre-jo–, no és la proximitat física de la distància. El confinament de cadascun s’amplia en l’allunyament i distribució d’aquests altre-jo. És la presència absent que ens permeten les tecnologies, que per alguna cosa totes es denominen amb el prefix tele: telèfon, televisió, teleconferència… Tecnologies que ens permeten ser sense estar. És la presència absent. I avui, confinats, estem més presents-absents que mai. Quan truquem per videoconferència grupal als nostres quatre éssers més estimats. Quan ens posem d’acord en un grup de Telegram que prestarem especial atenció a algú que no està al grup perquè està en una situació delicada, sigui laboral o de salut o del que sigui. Aquesta intimitat estesa que és la interintimitat amb l’altre-jo potser també pot ser anomenada la tele-intimitat. La intimitat del fet de compartir des de la presència absent.

10.- El disseny –i la tecnologia amb aquest– parteixen d’una premissa equivocada: que un només pot habitar un món. És a dir, que la vivència està limitada al món en què es dóna aquesta vivència. El que bé pot ser cert dit de cada vivència. Però no ho és quan les vivències s’entenen com un continu no determinista. No hi ha –o no hi ha raó perquè hi sigui més enllà de la imposició d’un món produït pel disseny– per a pensar que la meva següent vivència sigui dependent del món en el qual es dóna aquesta. No hi ha un historicisme de la vivència. El confinament és una prova d’això. Qui ens hauria dit que ens passaríem sis setmanes a casa? I qui hauria dit que ens semblaria malament? No obstant això aquesta relació unívoca món-vivència que fonamenta el disseny –com a procés de producció d’aquest món i la seva vivència donat el seu caràcter fenomènic– comença a esquerdar-se.

10.1.- És tasca del disseny, si vol sobreviure a la pandèmia, en la qual s’ha demostrat com a superflu, atès que el món que proposava ha esdevingut inhabitable, a explotar aquestes noves esquerdes en si mateix per a permetre l’aparició de noves realitats. De nous mons. Trencar aquesta equació és el nou imperatiu del disseny.

10.2.- El disseny, últimament centrat en els fonaments d’aquest món previ, s’ha entossudit a bussejar en els P&L dels seus clients (els casos d’èxit sempre s’expliquen com a èxits de negoci) i morirà arrossegat per aquests mateixos P&L que ja estan morint. El disseny ha d’aprendre que el seu futur no és aquí sinó en altres llocs. A la vida. M’explico. Com altres indústries culturals, el disseny ha de buscar la seva inspiració en la resta de fenòmens culturals que l’acompanyen. Així com la música pop sempre es renova gràcies als experiments musicals de minories racialitzades o els videojocs a la reinterpretació de clàssics de la literatura, el disseny té trobar altres fonts alienes a ell mateix però que l’enriqueixin. Ha de sortir dels despatxos i els Indesigns de torn i sortir al carrer. Ha de baixar al barri si és que vol sobreviure. Hi ha, per exemple, més futur del disseny en el bombing grafiter que en els estudis de disseny estratègic, que ja fan olor de formol.

10.3.- I el mateix és aplicable a tecnologies creadores de mons com la IA, la RV [Realitat Virtual] o els videojocs.

10.4.- Però una de les raons en la diferència de cos és que la tasca del dissenyador i de l’ideo-CEO és la creació del món, però no el seu manteniment (déu, com a aclariment, és aquell que és perquè és capaç de crear el món/univers, sí, però també de mantenir-lo. En el model producció industrial de la realitat, que inclouria aquestes dues tasques: creació i manteniment, totes dues tasques apareixen com deslligades). El manteniment d’això creat encara continua estant estretament lligat al cos –d’aquí ve que els processos d’automatització i robotització estiguin centrats fonamentalment en els sectors de producció industrial del que ja hi ha: cadenes de muntatge, ERPs, etc.

10.5.- Reflexió que em porta a una altra, relacionada amb l’absència present del cos –en aquest cas el cervell– en les IAs. La tasca de la IA és la creació o el manteniment del que hi ha? De moment jo diria que és la del manteniment, entre altres coses per la no permissibilitat de fal·libilitat de la qual parlava. Però, i aquesta és una tesi que trobo interessant, perquè és fàcil preveure que si la IA intervingués en la creació de nosaltres, com a humans, no entendríem moltes vegades aquest acte com un acte creador i ho entendríem, en canvi, com un acte aleatori, resultat de l’atzar (o de la bogeria de la màquina, que és una altra forma d’atzar).

Així, per exemple, va succeir amb el famós moviment 37 de la segona partida d’AlphaGo, que tots els experts van interpretar com a aleatori, per inexplicable, però que com que es va donar dins d’un món ja creat (aquí la IA no feia altra cosa que mantenir el món que és el joc de Go), va acabar per revelar-se com a intel·ligent i, per tant, intel·ligible.


11.- Amb relació a la disjuntiva instrumentalisme vs. substancialisme d’allò tecnològic (i del disseny) nascuda a partir del que es va anomenar l’empirical turn dels 70s –quan la filosofia de la tecnologia va començar a acceptar d’una manera menys crítica la tecnologia, acceptant que era aquí per a quedar-se–, potser convindria recordar a Plató i el seu Fedre, on rebutjava l’escriptura al·legant que acabaria amb la memòria. Però l’atac no era un atac oral, era un atac escrit. Escrivia per a atacar a l’escriptura. Una vegada que Plató va decidir començar a escriure ja mai va poder deixar de fer-ho –perquè allò no tecnològic, precisament perquè deixa una petjada efímera, es perd en i per a la memòria: per això no sabem què va dir a la seva Acadèmia–. I nosaltres amb ell. Per això, en continuar escrivint definia una manera d’humà, un humà la memòria del qual potser no es veia substituïda per l’escriptura, però sí que es veuria augmentada. Un humà la memòria del qual quedaria per sempre intervinguda per l’escriptura. Que avui encara llegim a Plató ho demostra.

Les interpretacions instrumentalista vs. substancialista s’han llegit fins ara com a contraposades, com dues maneres d’entendre allò tecnològic (i el disseny), contradictoris, però en realitat conformen un mateix discurs, una dialèctica, que a força de negar-se amplien l’àmbit d’allò definit per aquest discurs, que és el tot. Aquesta és la dialèctica que descansa en la dialèctica de la filosofia de la tecnologia, que en cada nou pensar es consolida el tecnograma a la Latour i Borgmann com a continuació interessada de les seves cadenes cosmològiques (que és com denomina Latour a les tres maneres d’estar en el món que Borgmann denominaria Naturalesa, Cultura i Tecnologia):

Cosmograma -> Cultugrama -> Tecnograma

sobre el qual es construeix un món tecnologitzat al qual ja no pot renunciar, en un procés semblant al sistema que s’expandeix a força de negar-se recursivament, això que Hofstadter va anomenar gödelització. Per això quan se supera un estadi, una manera d’estar en el món, quan, per exemple, se supera el cosmograma per a endinsar-se en el culturgrama, el cosmograma pot advertir-se, però no es pot tornar a ocupar. Queda com a record, però com els records és inaprehensible. I en aquest tot estem nosaltres. El tecnograma apareix cada vegada més com més afermat i el culturgrama se’ns apareix tènue i cada cop més desvalgut. Del cosmogama no tenim ja ni notícies. Aquest tot que transformem no pot ser-ho sense la nostra pròpia transformació.


12.- Un dels atributs que distingeixen a la intel·ligència és que no comptem amb la seva infal·libilitat. De fet, tot el contrari, entenem allò intel·ligent com alguna cosa que pot o bé fallar o bé produir solucions (és cert que definir el producte de la intel·ligència com a «solucions» ja denota un biaix que rebaixa el possible intel·ligent, però perquè ens entenguem), solucions, deia, inesperades. I cap de les dues resultants ho desqualifiquen com a intel·ligent. Exemple de resultes intel·ligents fallides? Posaré un que té relació amb el disseny. Les places dures de Madrid. Aquestes places que es van dissenyar no per a la convivència, que és per al que es van dissenyar, però que sol ser estàtica, conviure requereix temps, sinó que es van dissenyar per al trànsit. Així són places sense arbres, ombres o bancs. És més, no són places, són esplanades. Solars. Terra erma. «Terra erma», com el poema de T. S. Eliot (per a qui no el conegui, és aquí). Més semblants a patis de presó, un altre espai «obert» en el qual no es conviu sinó que s’erra, com en una plaça de poble. Una solució arquitectònica intel·ligent quan allò que pretens és transformar les ciutats en espais Centres Comercials oberts, com el projecte de Gallardón per al centre de Madrid. Una solució perfecta, a més, per a l’explotació comercial d’aquestes esplanades: en totes hi cap un quiosc de Nokia, una terrassa de cafeteria o un estand de Movistar.

Però la solució va deixar de ser intel·ligent el 15M. De sobte aquella solució de plaça dura va resultar increïblement fàcil d’ocupar. Allò que estava dissenyat per al trànsit va resultar perfecte per a la immobilització. I d’aquí el doble impacte d’aquesta ocupació, perquè no sols redefinia l’espai sinó també el seu ús. Però aquest sub-ús, diguem-ne, no vol dir que la proposta de disseny no fos intel·ligent per al model de ciutat que es pretenia. És només que la ciutat en algun moment no ho va entendre així.

Això com a exemple de resulta intel·ligent fallida; perquè exemples de resultes intel·ligents que generen respostes alternatives n’hi ha moltes i són fàcils de trobar.

No obstant això, amb la IA esperem infal·libilitat. Si falla ja no és intel·ligència. I si genera solucions divergents (més enllà de la divergència pautada dins d’allò ontològic-possible d’aquesta IA) tampoc. Fet que obre dos problemes, un epistemològic a l’hora de definir què és IA; un altre ètic, a l’hora de definir com ens relacionem amb les IA.


13.- No parem de culpar a la IA de biaixos que no són sinó nostres. De miopies ontològiques que no són sinó nostres. De decisions pernicioses que no són sinó les que fa 2.500 anys que prenem. De fet la IA està a punt de convertir-se en el boc expiatori moral per a les decisions que no volem prendre. Complint així el paper de boc expiatori positiu. Es menja la culpa per a redimir-nos. Fins i tot aquesta denúncia es desploma davant d’aquest argument: en denunciar el desplaçament de la culpa no fa una altra cosa que reforçar aquest desplaçament. La nostra relació amb la IA és absolutament cristiana.


14.- «Deixeu de fer» potser és l’únic mantra ètic vàlid avui per al disseny i la tecnologia. Potser l’únic treball moralment justificat de dissenyadors i tecnòlegs sigui deixar de fer i, sobretot, convèncer als seus clients perquè no facin.

Em costa molt trobar un argument contra aquesta proposta mínimament ben fonamentada. S’admeten contribucions.

Exemple, no perfecte, però exemple:

https://techcrunch.com/2020/06/08/ibm-ends-all-facial-recognition-work-as-ceo-calls-out-bias-and-inequality/

Un altre exemple del «Deixeu de fer», però aquesta vegada des d’un lloc problemàtic: Amazon. No obstant això, és simptomàtic que les companyies de tecnologia s’autoregulin –en allò que no és altra cosa que una expressió de la seva por a les regulacions governamentals que vindran– mentre els dissenyadors continuen empenyent a fer:

https://venturebeat.com/2020/06/10/amazon-imposes-one-year-moratorium-on-police-use-of-its-facial-recognition-technology/amp/

En els anys 70, Putnam (el lògic matemàtic-filòsof) va proposar alguna cosa així com un axioma ètic, el punt mínim moral des del qual decidir actuar. Deia «Always stick to the loser», estigues sempre amb el perdedor. I encara que no sempre és fàcil saber qui és el perdedor–a Dejad que las máquinas vengan a mí explico el cas d’una persona les profundes creences catòliques de la qual feien que confongués el perdedor en el cas d’una noia violada fecundada– l’axioma encara continua ressonant dins el meu cap. Primer perquè té això d’analític formal de base kantiana, que no obliga a alguna cosa concreta sinó que és context-irrelevant. Aspira així a una certa universalitat que ho fa estrictament atractiu. Segon, i derivat d’això analític, perquè encara que no proposa solucions, aquest «stick» no és actuar, tampoc és una forma d’inacció, que sempre és una forma de suport a l’agressor. Res és tan poc equidistant com l’equidistància, que diria Benjamin dels alemanys «neutrals» davant l’ascens nazi.

Avui aquest «Deixeu de fer» reprèn aquestes virtuts de l’axioma putmanià i fa de la inacció acció. I ho fa mitjançant una inacció no equidistant. Ho fa amb la consciència clara dels perills polítics de l’objecte de disseny i tecnològic. No fer és un reforçar allò bo que encara ens queda i, al mateix temps, estar-nos amb els perdedors d’això tecnosocial que estem produïnt dissenyadors i tecnòlegs, nosaltres. Tots. Tots nosaltres.

A més, i per si no fos prou, ataca aquest dogma neoliberal que no fa reforçar privilegis de l’aprenentatge a través de l’error –recordem que només els rics poden permetre’s fallar perquè compten amb una xarxa de suport teixida amb la plusvàlua expropiada als seus treballadors (si això ha sonat marxista no us estranyi, ho és); els pobres no poden provar, perquè no té l’oportunitat de tornar-se a aixecar: com s’aixecaran una segona vegada si no poden aixecar-se una primera?–, una tesi, la de l’error com a catapulta cap a l’èxit final, derivada d’aquesta altra proposta moral de rics, el pragmatisme a la Dewey, que és extremadament nociva perquè determina que tot fer redunda en el poder establert. I ara que el poder establert està desbocat dotat d’un fer quasi-miraculós, el fer ha de parar. Ja no podem permetre’ns eslògans –tots deweyans, per cert– tipus «aprendre fent» o «narrar a través d’actes» (storydoing) perquè tot fer ens converteix en perdedors. A base de tant fer hem perdut el sentit, i el fer sense sentit és prerrogativa del tirà, com deia el nazi de Schmitt.

14.1.- Per què «Deixeu de fer»?

Al començament del segle passat la filosofia es va partir per la meitat, i no em refereixo a la segregació analítica vs. continental, que en el fons parlaven del mateix però en diferents termes, el llenguatge i allò que pot ser enunciat amb propietat, sinó al fet que la interpretació del món s’obria en dos: o llenguatge o acció. I mentre tots dos corrents van optar pel llenguatge el món, cada vegada més produït per la indústria, va optar per l’acció.

I l’acció, gràcies a la incorporació dels avanços lingüístics de l’analítica, va acabar per devorar al llenguatge. La programació ha fet saltar per l’aire tot allò pensat sobre el llenguatge perquè l’ha convertit en performatiu. Tot llenguatge de programació és performatiu. Per tèlic.

Fa 120 anys que pensem allò que no és. Allò que no tocava.

Per això avui toca «Deixar de fer» i començar a pensar això que fem.

One Reply to “Apunts per a una ètica de la tecnologia”

Els comentaris estan deshabilitats.