Pie de foto: La ‘máquina humana’, de la película Metropolis (1927), fue el primer robot representado en el cine. Le dio ‘vida’ la actriz Brigitte Helm.
Luis Montero
El canal de Filosofía y Diseño de Telegram nació como un cuaderno de notas en el que apuntar las nociones básicas sobre las que debería girar el curso de introducción a la filosofía del diseño El diseño de nosotros mismos, cuya primera edición iba a impartir en octubre de 2019. Pero se me fue de las manos. Las meras notas se convirtieron en semillas de las que florecieron argumentos filosóficos alrededor del diseño. Y esos argumentos se injertaron unos a otros hasta enramar en un mismo tronco: lo que empezó como meros apuntes a vuela pluma había acabado constituyendo el eje centrar de una lectura filosófica del diseño. Había nacido el libro homónimo El diseño de nosotros mismos. Una lectura filosófica del diseño. Un tratado que intenta trazar puentes entre dos disciplinas que tradicionalmente se han dado la espalda, cuando no se han despreciado. Una sima que había que salvar. Que era urgente salvar. Porque la filosofía cuenta con una larga tradición de herramientas analíticas que nos permiten un mejor entendimiento del diseño, su práctica y su resultado. Y porque el diseño rompe con muchos postulados filosóficos previos que se consideraban inamovibles y, si algo alumbra la filosofía, es el cuestionamiento.
Estas notas son el recuerdo de un viaje de ida y vuelta. Un viaje que parte de la tecnología y su uso para terminar en la tecnología y su expresión, el diseño. Y vuelta otra vez. Y otra vez. Y otra… Estas notas que aquí aparecen publicadas se abren también a la crítica de la tecnología, dado que el diseño es ininteligible sin ella. De forma que se ajustan mejor a la audiencia de La Tecnòloga, a quienes me gustaría agradecer sus esfuerzos y ánimos incansables para su publicación. Aunque en el canal se entiende el diseño como la expresión de la tecnología, entre otras cosas. Y es que el diseño sin tecnología deja de serlo para ser otra cosa, un mal recuerdo de la artesanía. Así que allí se habla ahora mucho de tecnología. Es el viaje de vuelta…
Un viaje de vuelta también a una antigua pasión mía, la ética. Porque en esta selección que se presenta ahora aparecen algunos apuntes acerca de los avances de la IA, la biotecnología, reconocimiento facial… y cómo esas tecnologías están comenzando a despertar fantasmas éticos que creíamos superados. Y, lo más interesante, es que se propone una solución.
Otra cosa es que nadie haga caso.
Sobre el autor:
Luis Montero nació en el 65. Estudió filosofía en la UNED y publicidad en la Complutense. Ha sido guía turístico, creativo publicitario y consultor estratégico. Ha vivido en Madrid, Nueva York, Londres, Frankfurt, Marrakech, Benarés y ahora en Palma. Ha escrito las novelas de ciencia ficción Artrópodos, Feliz Año Nuevo y Clon y los ensayos sobre ontotecnología Mundo-hecho y Dejad que las máquinas vengan a mí. En dos semanas aparece El diseño de nosotros mismos. Una lectura filosófica del diseño. Libro que complementa y profundiza en algunas de las notas aquí publicadas. Además ha publicado en diversos medios, La Tecnòloga entre ellos, en la que apareció en el diálogo De humanos, máquinas y otros seres sintientes. Últimamente procura disfrutar de la vida y montar en bicicleta.
Notas sobre tecnología
1.- La discusión sobre la ética de las IAs está fatal enfocada. Todo dios teme que nos maten cuando lo que debíamos temer es que no nos maten. Como especie históricamente hemos demostrado muy baja tolerancia a los exterminios masivos pero altísima a las formas de tiranía que mantienen la vida, por malas que sean sus condiciones.
2.- Hay un fondo político efecto de la producción tecnológica de la realidad sobre el que se piden respuestas éticas.
2.1.- Se pretende buscar una buena vida en un entorno político que ignora –cuando no imposibilita– esa buena vida (al contrario de lo que sucedía en, por ejemplo, Aristóteles, cuya ética también está levantada sobre un fondo político que la sustentaba y hacía posible; pero, quizá al contrario de lo que sucede ahora, aquella política sustentaba la ética de quienes vivían las condiciones políticas de Aristóteles –el varón propietario y, por tanto, libre– y no de la mayoría. Aquella ética estaba igual de secuestrada, pero la hemos romantizado. ¿Por qué la hemos romantizado? Aparte del argumento de autoridad, ¡hey, que es Aristóteles!, está la contradicción entre aquella ética y la política que la hacía posible y la relación entre nuestra política y la imposibilidad de la ética). La ética sufre un secuestro, el secuestro de la política, que la reduce a la redención personal de los actos y sus consecuencias. La vida se reduce a cada uno de los actos, a su suma quizá, pero una suma que no tiene un resultado final o cuyo resultado final se limita a la enumeración de los actos, como ese pase de diapositivas mítico que dicen antesala de la muerte. Es una vida estrecha, algebraica. De la ética reducida a las consecuencias de los actos no resulta una vida buena. Una vida se compone de actos, sí, pero no solo. Y ni siquiera los actos tienen que ser el componente fundamental: de ser así alguien impedido a realizar acto alguno ya sea por discapacidad o por encierro no podría calificarse como capaz de vivir una vida plena. Aquí el todo es mayor que la suma de las partes. Casi incluso se podría decir que podría decir que de esa reducción o secuestro ni siquiera resulta una vida.
La teleología utilitarista es peanuts frente a la teleología aristotélica. La ética de este no trataba de evaluar un acto concreto sino levantar una vida.
2.2.- Por eso el problema del diseño es más político que ético. O dicho de otro modo: La producción tecnológica de la realidad es una estructura política y una ética no puede ser más que un sistema. Y un sistema no puede ir a contracorriente de la estructura que lo soporta. El sistema no puede negar la estructura que lo sostiene.
2.3.- Y, sin embargo, la generalidad –que no abstracción– del imperativo kantiano aleja lo moral tantísimo de nuestras vidas, de cualquier vida, que es impracticable por inaplicable. Si el consecuencialismo se diluye en la inmediatez hasta perder de vista ese horizonte que es la vida, el kantianismo funciona si, al contrario, la vida se subyuga y diluye en ese sistema reglado. Y con esa disolución se pierde la vida. También.
De hecho, y como apunto en Dejad que las máquinas vengan a mí, la tecnología –y por tanto el proceso de producción industrial de la realidad– parte de lo que allí llamo un «error metafísico» ya que toda máquina –y más las IA– es kantiana por definición: lleva incrustada en sí la definición del mundo en el que opera, la ontología. Así pues sobre ese fondo kantiano se pretende pensar una ética que posibilite una vida buena y al mismo tiempo esté sujeta a ese tejido legiforme kantiano de la tecnología.
2.4.- En este sentido de la aceptación de lo político como sustrato sobre lo que florece –el hoy tan de moda flourish sajón– lo ético se comprende el resurgir de la llamada ética de las virtudes. Lo ético reside en el carácter del sujeto que vive privilegiado por lo político. Tal como sucedía con Aristóteles, quien podía achacar al carácter –y por tanto al sujeto– las virtudes morales, virtudes morales que partían de uno y revertían en uno, entre otras cosas porque el otro que también disponía de carácter era igual que el uno, esto es, estaba en la misma situación política. Pero entonces como ahora esa situación no siempre es compartida por todos. De hecho, casi nunca. Si bien esas éticas de la virtud toman constancia de los diferentes caracteres de cada uno de nosotros suponen que todos partimos de una misma situación política desde la cual la distancia y dificultades para llegar al acto moral es el mismo.
3.- Ante las críticas estereotipadas de los perfiles más conservadores al cambio en el espacio público, antes solía decir medio en broma medio en serio que no es que ahora estemos peor educados, es que tenemos más oportunidades de molestar. Y muchas de esas oportunidades vienen dadas por objetos de diseño (altavoces inalámbricos, envases portátiles, vehículos eléctricos omnipresentes, etc.). Muchos de los problemas que genera el diseño no son tanto existenciales –que requieren soluciones éticas– sino de convivencia –que requieren una reformulación de lo que significa vivir en comunidad–. La educación en su acepción disciplinaria, no pedagógica, se nos ha hecho mayor. Lo que no está mal y algo por lo que hemos suspirado en innúmeras ocasiones por aquello hipócrita que había detrás del saludo desapegado, pero que ahora nos enfrenta a unos mores (sí, la antesala de lo moral) que no sabemos redefinir sin recaer en una moralidad de nuevo castradora. De pronto el chaval que escucha trap a todo volumen en la plaza nos ha retratado a todos.
Y no nos gusta cómo salimos en la foto.
3.1.- La convivencia no se basaba tanto en la costumbre como en la aceptación de esa costumbre. El diseño, gran productor de objetos que quiebran e inhiben esa convivencia, o al menos la cuestionan, podría producir el benéfico efecto insospechado de obligar a las comunidades a tener que negociar las pautas de convivencia cada con cada nuevo objeto que la desequilibra. Pero aquí se anticipan dos problemas: por un lado la incapacidad de la comunidad de articular esas negociaciones –incapacidad que explica la aceptación sumisa a la costumbre– y por otro la cortísima shell life que impone el mercado a la producción de la realidad. Aunque el primer problema no se diera y la sociedad fuera capaz de negociar al tiempo que aparecen nuevos objetos disvenientes –que amenazan la convivencia–, la creciente velocidad de aparición de esos objetos, que no es de extrañar se viera impulsada por esa capacidad de aceptación, puesto que el objeto de diseño tiene que chocar para no ser fondo, esa creciente velocidad empujaría a la sociedad hacia dos extremos, ambos extenuantes pero por distintas razones. O bien la comunidad se convertiría únicamente en el espacio de la negociación, una negociación eterna y acelerada dada la aparición eterna y acelerada de objetos que, a su vez, se viera impedida a aceptar esos objetos por falta de tiempo, todo él dedicado a una agotadora negociación. O, en el extremo opuesto, que mandara a tomar por culo la educación y, con ella, la convivencia.
Que es donde parece que estamos. O hacia dónde nos dirigimos.
3.2.- Pero con una diferencia. Esa negación de la negociación –y por tanto del cambio: no olvidemos que la historia de la humanidad es la historia de la negociación para la aceptación del cambio, un cambio que ha llevado 25 siglos en occidente para que acabemos aquí– no parte de una decisión voluntaria de los miembros de la comunidad –que es el óptimo buscado cuando desde la tradición se critica la costumbre: aquel denunciar la educación como un sistema de control y coerción– sino que es una condición exógena a la comunidad a la que no sabe reaccionar. A la que no puede reaccionar. Porque, ya se sabe, sin negociación no hay aceptación.
3.3.- Si Thatcher dijo «No existe la sociedad, existe el individuo», hoy podríamos afirmar «No existe sociedad ni individuo, existe el objeto».
4.- Abundan –o empiezan a abundar– los libros de tecnólogos y diseñadores proponiendo soluciones éticas para la tecnología y el diseño. Y a mí siempre me chocan. Y no sólo porque me parece que la solución ética no puede venir de la parte que genera el problema, nadie tiene esa ecuanimidad –ni siquiera Moore cuando afirmaba que en todo acto hay un punto de vista objetivo, que es el del otro afectado… que es cierto que lo hay, pero pretender que el patrón moral sea ese es pretender que seamos santos: no siempre puedo actuar con la mirada del otro, entre otras cosas porque desconozco su mirada, es impenetrable–, sino porque esos libros de tecnólogos y diseñadores escribiendo éticas de tecnología y diseño me suenan a ejercicio de curillas. Son libros en cierta medida redentores. Un «venga, ánimo, chicos, que no somos tan malos, que podemos hacerlo bien», quizá necesario, pero que tiene muy poco que ver con la ética, tienen que ver con el consuelo –un consuelo injusto, porque el tecnólogo y el diseñador están en un espacio de poder, y no sólo político–.
4.1.- Pero no me chocan por eso, me chocan por algo más denso. El diseño es un ejercicio de creación. Y los discursos redentores lo son precisamente porque todo ejercicio de creación es fallido. Y voy con un ejemplo más grande. No nay creador más grande que dios, que en su teoría lo ha hecho todo. Bien, aceptémosla por un segundo y como experimento mental. ¿Si lo ha hecho todo porque nos tiene que mandar un redentor (que siempre nos impone una moral, por cierto)? Porque la creación es imperfecta tenemos que ajustarnos a ese patrón moral para salvarnos. Hay salvación condicionada, y sólo condicionada. La salvación es un condicional fuerte, si y sólo si. Pero para quienes no tenemos muchas ganas de salvarnos, porque tampoco pensemos que haya que salvarnos de nada, es decir, para quienes no pertenecemos al marco, esa salvación coercitiva en realidad no manifiesta otra cosa que la imperfección ontológica de lo creado y, por ende, del creador. El tecnólogo o el diseñador metido en la piel del ético ocupa para mí ese espacio. En vez de mirar el problema primero, el problema fundamental del diseño, intenta excusarlo con una ética. Como las religiones, que para salvar la creación condenan a media humanidad (de ahí el magnífico problema de las teodiceas, que como ejercicio son preciosos, pero insalvables), el tecnólogo/diseñador-ético, para salvar la disciplina condena la honestidad intelectual.
4.2.- Hay que desconfiar siempre de los tratados éticos escritos a favor del P&L de quien los escribe. Ya sea de curas contando qué buena es la catequesis para la moral o de tecnólogos y diseñadores contando qué buenas son las prácticas para la consecución del objetivo que le pide el cliente.
5.- Si la moral tuviera una base biológica que dependiera de la morfología cerebral, como sí sucede con la cognición (de entrada sólo percibimos aquellos estímulos que nuestro aparato cognitivo percibe como fenómenos, que no son más que una muestra ínfima del total de posibles estímulos que produce el mundo), entonces, decía, podríamos disponer de algo así como una moralidad aumentada. Y no me refiero a contar con una BBDD de casos resueltos o no, no con programas para desarrollar la lógica inherente a un árbol de decisiones, por ejemplo, sino a ampliar las fuentes de nuestros sentimientos morales más allá de nuestras fisiologías-cuerpos. Poder, por ejemplo, participar de los sentimientos morales de otro. Un dispositivo que te lo enganchas a la oreja, algo así como un audífono, que te ofreciera la visión moral de una tercera persona en una determinada situación. Algo así como aquel imperativo de objetividad –ante toda decisión moral siempre debemos tener en cuenta la perspectiva objetiva, exterior a nosotros, que dictaminaba Moore–, pero generado por un dispositivo.
Lo que me lleva a pensar que ese dispositivo ya existe, es la plaza del pueblo. Donde una comunidad vivía sus mores compartidos.
No hacía falta tecnología, sino convivencia.
Pero quizá esta última sea una salida facilona. ¿Acaso la plaza pública no es una forma de tecnología? Más allá de que sea tecnología o no, que es una disquisición que ahora no es necesaria, lo que sí es es el lugar que propicia la convivencia. Llegados a este punto aparece la pregunta: ¿podríamos crear otros dispositivos que ampliaran el registro-sentimiento moral, ya fuera mediante la ampliación de la convivencia, su simulación o representación, o cualquier otro modo de abrirnos, de sacarnos de nuestro punto de vista moral subjetivo?
¿Lo aceptaríamos?
6.- El aluvión de noticias que anuncian capacidades tecnológicas milagrosas dejan poco espacio para la scifi especulativa más allá de la política. Y es tan abrumador que casi la única lectura posible es la distopía.
Y la distopía, la falta de relatos de cielos abiertos y cierta esperanza, nos está matando. Y no, no hablo de esos relatos prefabricados por la industria de producción del todo, como el diseño de futuros, Hollywood o los casos de éxito de las consultoras estratégicas –que en el fondo son tres formas de lo mismo– sino de las posibilidades de leernos a nosotros mismos de formas alternativas, aperturistas, esplendorosas.
Un aluvión que nos llega en el peor momento –todas las crisis siempre llegan en el peor momento–, cuando además parece que a base de relatarlo todo hemos agotado el diccionario y no hacemos sino balbucear.
Quizá, y aquí lo uno con tecnología y diseño, tiene que ver con la pérdida de peso ilocutivo del lenguaje frente a la capacidad realizativa del diseño y la tecnología. Me explico, un poco. Se suponía desde Austin que había enunciados que tenían un impacto directo en la realidad, que eran como los mandatos de un dios: se cumplían. «¡Que inaugurado este pantano!» significaba que efectivamente ese pantano había sido inaugurado –obviamente la referencia franquista es aposta, el fascismo es extremadamente ilocutivo–. Ese efecto era lo perlocutivo del acto ilocutivo. Lo perlocutivo es lo que sucedía en el mundo cuando se emitía un enunciado ilocutivo. Bien, pues el diseño y la tecnología pueden entenderse como actos perlocutivos que no necesitan actos ilocutivos. Y si la economía rige los usos del lenguaje, esa no-necesidad de enunciados es un ahorro magnífico que parecería hacer el acto lingüístico superfluo.
7.- Una prueba, o quizá un mero delator, del revolcón causal provocado por la tecnología y aupado por el diseño –donde los efectos son las causas– es que el proceso de denominación de un nuevo artilugio, artefacto, disciplina o herramienta muchas veces viene derivado de un efecto. El GUI se llama así por lo que produce: la interacción con objetos es más inmediata que la línea de comandos. Chromecast se llama así por lo que produce: emitir en la pantalla de la tele lo reproducido en Chrome. UX se acronomiza así por lo que produce: una vivencia en el usuario. Los ejemplos son muchísimos, y es una tendencia que viene de lejos: el teléfono o el lavavajillas ya llevaba impreso ese modo de atribución –atribución que quizá también responda al entorno doméstico donde se despliegan esos objetos; al menos al principio, puesto que ahora son sobre todo de uso profesional (aunque esta diferencia ya casi carece de sentido)–. En este sentido el diseño es una excepción, casi nada de lo que mencionamos es nombrado por el efecto que produce. La relación entre el nombre y la cosa nombrada rara vez era identificable. Incluso tirando de etimologías, aunque retrocedamos al latín o al griego, hay un momento en el que esa relación nombre-cosa nombrada aparece como aleatoria. Indescifrable. No así en el diseño. Es aquel remitir de Heidegger en Ser y tiempo propio de toda herramienta tecnológica.
7.1.- En cierta medida el efecto es el sentido (el efecto que debería ser contingente pasa así a universal).
7.2.- Ese universal impide la resignación de lo diseñado, acción política propuesta muchas veces como forma de reapropiación. Ejemplos de esas propuestas hay muchos.
7.3.- Sin embargo, cualquier reapropiación es imposible cuando no hay distancia ninguna en la relación entre significante y significado y cuando este, además, se ha convertido en universal, siempre el mismo.
8.- La inteligencia responde a la vida y no al contrario. Lo mismo debería suceder con la IA, si no queremos que se vuelva contra la vida. Ahora bien, para eso la IA debería estar viva. Y eso es poco probable que de –y no sólo porque estamos más lejos todavía de emular la vida que de emular la inteligencia–.
9.- El impacto de la cuarentena en la interintimidad. Hoy pensaba que si la cuarentena tiene alguna virtud es que nos permite centrarnos en cuidar a quienes están cerca, a quienes estamos más cercanos. De quienes en Dejad que las máquinas vengan a mí definí como el otro-yo, aquellos que están a este lado del palo del selfie. La excepcionalidad de la situación nos ha hecho conscientes de la importancia de los cuidados de esos otro-yo. Pero esa cercanía con el otro-yo, sobre la que se construye esa interintimidad que se expresa en selfie común –el self compartido como expresión visual del otro-yo–, no es la cercanía física de la distancia. El confinamiento de cada uno se amplía en el alejamiento y distribución de esos otro-yo. Es la presencia ausente que nos permiten las tecnologías, que por algo todas se denominan con el prefijo tele: telé-fono, tele-visión, tele-conferencia… Tecnologías que nos permiten ser sin estar. Es la presencia ausente. Y hoy, confinados, estamos más presentes-ausentes que nunca. Cuando llamamos por videoconferencia grupal a nuestros cuatro seres más queridos. Cuando nos ponemos de acuerdo en un grupo de Telegram que vamos a prestar especial atención a alguien que no está en el grupo porque está en una situación delicada, ya sea laboral o de salud o de lo que sea. Esa intimidad extendida que es la interintimidad con el otro-yo quizá también pueda ser llamada la tele-intimidad. La intimidad del compartir desde la presencia ausente.
10.- El diseño –y la tecnología con él– parten de una premisa equivocada: que uno sólo puede habitar un mundo. Es decir, que la vivencia está limitada al mundo en que se da esa vivencia. Lo que bien puede ser cierto dicho de cada vivencia. Pero no lo es cuando las vivencias se entienden como un continuo no determinista. No hay –o no hay razón para que lo haya más allá de la imposición de un mundo producido por el diseño– para pensar que mi siguiente vivencia sea dependiente del mundo en el que se da esta. No hay un historicismo de la vivencia. El confinamiento es una prueba de ello. ¿Quién nos hubiera dicho que íbamos a pasarnos 6 semanas en casa? ¿Y quién hubiera dicho que nos iba a parecer mal? Sin embargo esa relación unívoca mundo-vivencia que fundamenta el diseño –como proceso de producción de ese mundo y su vivencia dado su carácter fenoménico– empieza a resquebrajarse.
10.1.- Es tarea del diseño, si quiere sobrevivir a la pandemia, en la que se ha demostrado como superfluo, dado que el mundo que proponía ha devenido inhabitable, en explotar esas nuevas grietas en sí mismo para permitir la aparición de nuevas realidades. De nuevos mundos. Romper esa ecuación es el nuevo imperativo del diseño.
10.2.- El diseño, últimamente centrado en los fundamentos de ese mundo previo, se ha empecinado en bucear en los P&L de sus clientes (los casos de éxito siempre se explican como éxitos de negocio), va a morir arrastrado por esos mismos P&L que ya están muriendo. El diseño tiene que aprender que su futuro no está ahí sino en otros lugares. En la vida. Me explico. Como otras industrias culturales, el diseño tiene que buscar su inspiración en el resto de fenómenos culturales que lo acompañan. Así como la música pop siempre se renueva gracias a los experimentos musicales de minorías racializadas o los videojuegos a la reinterpretación de clásicos de la literatura, el diseño tiene encontrar otras fuentes ajenas a él pero que lo enriquezcan. Tiene que salir de los despachos y los indesigns de turno y salir a la calle. Tiene que bajar al barrio si es que quiere sobrevivir. Hay, por ejemplo, más futuro del diseño en el bombing grafitero que en los estudios de diseño estratégico, que ya huelen a formol.
10.3.- Y lo mismo es aplicable a tecnologías creadoras de mundos como la IA, la VR o los videojuegos.
10.4.- Pero una de las razones en la diferencia de cuerpo es que la tarea del diseñador y del ideo-CEO es la creación del mundo, pero no su mantenimiento (dios, como aclaración, es lo que es porque es capaz de crear el mundo/universo, sí, pero también de mantenerlo. En el modelo producción industrial de la realidad, que incluiría esas dos tareas: creación y mantenimiento, ambas tareas aparecen como desligadas). El mantenimiento de eso creado aún sigue estando estrechamente ligado al cuerpo –de ahí que los procesos de automatización y robotización estén centrados fundamentalmente en los sectores de producción industrial de lo que ya hay: cadenas de montaje, ERPs, etc.
10.5.-Reflexión que me lleva a otra, relacionada con la ausencia presente del cuerpo –en este caso el cerebro– en las IAs. ¿La tarea de la IA es la creación o el mantenimiento de lo que hay? De momento yo diría que es el del mantenimiento, entre otras cosas por la no permisibilidad de falibilidad de la que hablaba. Pero, y este es una tesis que creo interesante, porque es fácil preveer que si la IA interviniera en la creación nosotros, como humanos, no entenderíamos muchas veces ese acto como un acto creador y lo entenderíamos, sin embargo, como un acto aleatorio, resultado del azar (o de la locura de la máquina, que es otra forma de azar).
Así, por ejemplo, sucedió con el famoso movimiento 37 de la segunda partida de AlphaGo, que todos los expertos interpretaron como aleatorio, por inexplicable, pero que como se dio dentro de un mundo ya creado (ahí la IA no hacía otra cosa sino que mantener el mundo que es el juego de Go), termino por relevarse como inteligente y, por tanto, inteligible.
11.- En relación a la disyuntiva instrumentalismo vs sustancialismo de lo tecnológico (y al diseño) nacida a partir de lo que se llamó el empirical turn de los 70s –cuando la filosofía de la tecnología empezó a aceptar de una forma menos crítica la tecnología, aceptando que estaba aquí para quedarse–, quizá convendría recordar a Platón y su Fedro, donde rechazaba la escritura alegando que acabaría con la memoria. Pero el ataque no era un ataque oral, es un ataque escrito. Escribía para atacar a la escritura. Una vez que Platón decidió empezar a escribir ya nunca pudo dejar de hacerlo –porque lo no tecnológico, precisamente porque deja una huella deleble, se pierde en y para la memoria: por eso no sabemos qué dijo en su Academia–. Y nosotros con él. Por eso, al continuar escribiendo definía un modo de humano, un humano cuya memoria quizá no se viera reemplazada por la escritura, pero sí se vería aumentada. Un humano cuya memoria quedaría para siempre mediada por la escritura. Que hoy aún leamos a Platón lo demuestra.
Las interpretaciones instrumentalista vs sustancialista se han leído hasta ahora como contrapuestas, como dos formas de entender lo tecnológico (y el diseño), contradictorios, pero en realidad conforman un mismo discurso, una dialéctica, que a base de negarse amplían el ámbito de lo definido por ese discurso, que es el todo. Esa es la dialéctica que subyace en la dialéctica de la filosofía de la tecnología, que en cada nuevo pensar se cimienta el tecnograma à la Latour y Borgmann como continuación interesada de sus cadenas cosmológicas (que es como denomina Latour a los tres modos de estar en el mundo que Borgmann denominaría Naturaleza, Cultura y Tecnología):
Cosmograma -> Cultugrama -> Tecnograma
sobre el que se construye un mundo tecnologizado al que ya no puede renunciar, en un proceso semejante al sistema que se expande a base de negarse recursivamente, eso que Hofstadter llamó gödelización. Por eso cuando se supera un estadío, una forma de estar en el mundo, cuando, por ejemplo, se supera el cosmograma para adentrarse en el culturgrama, el cosmograma puede vislumbrarse, pero no se puede volver a ocupar. Queda como recuerdo, pero como los recuerdos es inasible. Y en ese todo estamos nosotros. El tecnograma aparece cada vez más como más afianzado y el culturgrama se nos asoma tenue y cada vez mas desvalido. Del cosmogama no tenemos ya ni noticias. Ese todo que transformamos no puede serlo sin nuestra propia transformación.
12.- Una de los atributos que distinguen a la inteligencia es que no contamos con su infalibilidad. De hecho, todo lo contrario, entendemos lo inteligente como algo que puede o bien fallar o bien producir soluciones (es cierto que definir el producto de la inteligencia como «soluciones» ya denota un sesgo que cercena lo posible inteligente, pero para que nos entendamos), soluciones, decía, inesperadas. Y ninguna de las dos resultantes descalifican eso como inteligente. ¿Ejemplo de resultas inteligentes fallidas? Pondré uno que tiene que ver con el diseño. Las plazas duras de Madrid. Esas plazas que se diseñaron no para la convivencia, que es para lo que se diseñaron, pero que suele ser estática, convivir requiere tiempo, sino que se diseñaron para el tránsito. Así son plazas sin bancos, árboles o sombras. Es más, no son plazas, son explanadas. Solares. Tierra baldía. «Tierra baldía», como el poema de Eliot (para quien no lo conozca, está aquí:
https://www.poetryfoundation.org/poems/47311/the-waste-land
Más parecidas a patios de cárcel, otro espacio «abierto» en el que no se convive sino que se deambula, que a una plaza de pueblo. Una solución arquitectónica inteligente cuando lo que pretendes es transformar las ciudades en espacios Centros Comerciales abiertos, como el proyecto de Gallardón para el centro de Madrid. Una solución perfecta, además, para la explotación comercial de esas explanadas: en todas cabe un kiosko de Nokia, una terraza de cafetería o un stand de Movistar.
Pero la solución dejó de ser inteligente el 15M. De pronto aquella solución de plaza dura resultó tremendamente fácil de ocupar. Lo que estaba diseñado para el tránsito resultó perfecto para la inmovilización. Y de ahí el doble impacto de esa ocupación, porque no sólo redefinía el espacio sino también su uso. Pero ese sub-uso, digamos, no quiere decir que la propuesta de diseño no fuera inteligente para el modelo de ciudad que se pretendía. Es sólo que la ciudad en algún momento no lo entendió así.
Eso como ejemplo de resulta inteligente fallida; porque ejemplos de resultas inteligentes que generan respuestas alternativas hay muchos y son fáciles de encontrar.
Sin embargo, con la IA esperamos infalibilidad. Si falla ya no es inteligencia. Y si genera soluciones divergentes (más allá de la divergencia pautada dentro de lo ontologico-posible de esa IA) tampoco. Lo que abre dos problemas, uno epistemológico a la hora de definir qué es IA; otro ético, a la hora de definir cómo nos relacionamos con las IA.
13.- No paramos de culpar a la IA de sesgos que no son sino nuestros. De miopías ontológicas que no son sino nuestras. De decisiones perniciosas que no son sino las que llevamos 2.500 años tomando. De hecho la IA está a punto de convertirse en el chivo expiatorio moral para las decisiones que no queremos tomar. Cumpliendo así el papel de chivo expiatorio positivo. Se come la culpa para redimirnos. Incluso esta denuncia sucumbe ante ese argumento: al denunciar el desplazamiento de la culpa no hace otra cosa que afianzar ese desplazamiento. Nuestra relación con la IA es tremendamente cristiana.
14.- «Dejad de hacer» quizá sea el único mantra ético válido hoy para el diseño y la tecnología. Quizá el único trabajo moralmente justificado de diseñadores y tecnólogos sea dejar de hacer y, sobre todo, convencer a sus clientes para que no hagan.
Me cuesta mucho encontrar un argumento contra esta propuesta mínimamente bien fundamentado. Se admiten contribuciones.
Ejemplo, no perfecto, pero ejemplo:
Otro ejemplo de «Dejad de hacer», pero esta vez desde un sitio problemático: Amazon. Sin embargo, es sintomático que las compañías de tecnología se auto-regulen –en lo que no es sino una expresión de su miedo a las regulaciones gubernamentales que vendrán– mientras los diseñadores siguen empujando a hacer:
En los años 70 Putnam (el lógico matemático-filósofo) propuso algo así como un axioma ético, el punto mínimo moral desde el que decidir actuar. Decía «Always stick to the loser», estáte siempre con el perdedor. Y aunque no siempre es fácil saber quién es el perdedor–en Dejad que las máquinas vengan a mí cuento el caso de una persona cuyas profundas creencias católicas hacían que confundiera el perdedor en el caso de una chica violada fecundada– el axioma aún sigue resonando en mi cabeza. Primero porque tiene eso de analítico formal de base kantiana, que no obliga a algo concreto sino que es context-irrelevant. Aspira así a una cierta universalidad que lo hace estrictamente atractivo. Segundo, y derivado de eso analítico, porque aunque no propone soluciones, ese «stick» no es actuar, tampoco es una forma de inacción, que siempre es una forma de apoyo al agresor. Nada es tan poco equidistante como la equidistancia , que diría Benjamin de los alemanes «neutrales» ante el ascenso nazi.
Hoy ese «Dejad de hacer» retoma esas virtudes del axioma putmaniano y hace de la inacción acción. Y lo hace mediante una inacción no equidistante. Lo hace con la conciencia clara de los peligros políticos del objeto de diseño y tecnológico. No hacer es un reforzar lo bueno que aún nos queda y, al mismo tiempo, estarnos con los perdedores de eso tecnosocial que estamos producido diseñadores y tecnólogos, nosotros. Todos. Todos nosotros.
Además, y por si fuera poco, ataca ese dogma neoliberal que no hace reforzar privilegios del aprendizaje a través del error –recordemos que sólo los ricos pueden permitirse fallar porque cuentan con una red de soporte tejida con la plusvalía expropiada a sus trabajadores (si esto ha sonado marxista no os extrañe, lo es); los pobres no pueden probar, porque no tiene la oportunidad de volverse a levantar: ¿cómo se van a levantar una segunda vez si no pueden levantarse una primera?–, una tesis, la del error como catapulta hacia el éxito final, derivada de esa otra propuesta moral de ricos, el pragmatismo à la Dewey, que es extremadamente dañina porque determina que todo hacer redunda en el poder establecido. Y ahora que el poder establecido está desbocado dotado de un hacer cuasi-milagroso, el hacer tiene que parar. Ya no podemos permitirnos eslóganes –todos deweyanos, por cierto– tipo «aprender haciendo» o «relatar mediante actos» (storydoing) porque todo hacer nos convierte en perdedores. A base de tanto hacer hemos perdido el sentido, y el hacer sin sentido es prerrogativa del tirano, como decía el nazi de Schmitt.
14.1- ¿Por qué «Dejad de hacer»?
A comienzos del siglo pasado la filosofía se partió por la mitad, y no me refiero a la segregación analítica vs continental, que en el fondo hablaban de lo mismo pero en distintos términos, el lenguaje y lo que puede ser enunciado con propiedad, sino al hecho de que la interpretación del mundo se abría en dos: o lenguaje o acción. Y mientras ambas corrientes optaron por el lenguaje el mundo, cada vez más producido por la industria, optó por la acción.
Y la acción, gracias a la incorporación de los avances lingüísticos de la analítica, terminó por devorar al lenguaje. La programación ha hecho saltar por los aires todo lo pensado sobre el lenguaje porque lo ha convertido en performativo. Todo lenguaje de programación es performativo. Por télico.
Llevamos 120 años pensando lo que no es. Lo que no tocaba.
Por eso hoy toca «Dejar de hacer» y empezar a pensar eso que hacemos.
