Atendiendo a la visión de una mayoría de expertos, me aventuro a creer que la inteligencia artificial está todavía lejos de convertirse en ese ente de pensamiento autónomo que acabará con la agencia humana. La razón es que (a ver si lo explico bien; soy de letras) las arquitecturas actuales han optado por modelos de lenguaje increíblemente sofisticados, que nos han conducido hasta los famosos “loros estocásticos”. Estos se limitan a repetir frases que tienen sentido para nosotros, pero no para ellos, gracias a una capacidad de iteración asombrosa que dota de contenido real a sus respuestas y cálculos. Ese camino sería así un desvío que solo acabará produciendo asistentes con capacidades increíbles, pero que no tendrán el poder de pensar. La razón, dicen los que saben, es que adolecen de un defecto de partida: no viven. La mente y la inteligencia humanas son procesos (no programas) enraizados en la experiencia única que supone contemplar y percibir el mundo desde un cuerpo, y hasta que no comprendamos esa vivencia en su totalidad no llegaremos a la meta de la AGI1.
Nuestra “imbatibilidad”, sin embargo, no está exenta de problemas. Razonamos y sentimos de una determinada manera, como consecuencia de un pasado evolutivo en el que, antes que depredadores, fuimos presas; y en el que una especie de primate, para sobrevivir, desarrolló formas estrechas de cooperación social y, sobre todo, una mente simbólica. Nuestra manera de pensar no es ni la mejor ni la única: es sencillamente la que tenemos. Funcionar, funciona, pero está llena de parches, que llamamos sesgos. Lo cual me lleva a preguntarme por qué una inteligencia artificial tendría que pensar como nosotros, y si eso es necesario, deseable o sencillamente irrelevante. Pero el asunto (y su consecuencia) me da miedito.
Uno de esos artefactos mentales, por ejemplo, es la pareidolia, de la que hablaba el otro día Daniel Arjona: los humanos (y seguramente muchos otros animales) tenemos la capacidad de detectar patrones ordenados, o formas familiares donde hay imágenes caóticas. Vemos caras en las baldosas, elefantes en las nubes, empatía en la IA. Esta alucinación no es más que un mecanismo de supervivencia, que en el pasado nos permitió identificar posibles amenazas, tanto animales como humanas: es preferible ver un fantasma donde hay una sábana que no ver al asesino que está detrás de ella2. Si algo que se asemeja a una persona se acerca a nosotros, será mejor identificar si viene con buenas o malas intenciones3. Esta adaptación evolutiva es la que, según Arjona, podría llevarnos a aceptar la humanidad de la IA, al ser incapaces de distinguir entre verdaderas emociones y ristras de palabras que se parecen a ellas.
Sin embargo, en estos últimos tiempos tengo la sensación de que los seres humanos experimentamos también el fenómeno mental contrario. Si pareidolia viene de παρά (pará): “al lado de”, “junto a” y εἴδωλον (eídōlon): “figura”, “imagen”, “aspecto” o “fantasma”4, ahora mismo experimentamos antidolia. Parece un lugar paradisíaco en la costa turca, pero van a ver que no.
Es, por supuesto, una palabra inventada por un servidor. Los neurológos denominan agnosia visual al fenómeno de mirar algo y no reconocer lo que es: una persona con agnosia puede ver un peine y, aunque describe sus púas y su color, no puede identificarlo, o puede pensar que es un instrumento musical. En psicología, al esfuerzo consciente por “desver” la forma lógica de las cosas (como cuando miras una palabra tanto tiempo que deja de tener sentido), se le llama desfamiliarización. Existe, en la escritura, la técnica literaria del extrañamiento, consistente en mostrarnos objetos o acontecimientos con tal distanciamiento moral, intelectual o material hasta que nos resultan completamente extraños. Recomiendo leer, a quien no lo haya hecho aún, las Historias de cronopios y de famas, de Julio Cortázar, para entender lo que digo, y además para pasárselo bien5.
Devastados por horas ante la pantalla rectangular, y seguramente estragados por una vaga (y errónea) intuición de lo que ocurre, nos empeñamos en ver lo que no es, en atribuir otro contexto o intencionalidad a cosas que no la tienen y que, en realidad, son tal y como parecen. Como si, horrorizados ante la evidencia, decidiéramos que es mejor no verla, o peor aún, justificarla.
Por ejemplo, tras el asesinato a sangre fría de Renee Nicole Good por parte de un agente del ICE, el gobierno norteamericano ha difundido un vídeo en el que justifica como defensa propia lo que es, a todas luces, una ejecución. Muchos ciudadanos han preferido creer esta versión en la que afirman que la víctima era una provocadora profesional y una agresora a las fuerzas de la ley, y en vez de ver a un nazi con una pistola, afirman contemplar a un agente de la ley haciendo su trabajo.
Aún hay quien cree, por ejemplo, que detrás de las bravatas de Donald Trump se esconden sofisticados cálculos estratégicos, astutamente disimulados en medio de una política de comunicación deliberadamente caótica. No quieren ver que no hay tal genio, sino un descerebrado inteligente (o inteligente descerebrado) que ha conectado por pura intuición con una parte de la ciudadanía que se siente (con razón) abandonada. Que es un señor que únicamente persigue su autosatisfacción personal en un delirium tremens de egocentrismo como hace mucho tiempo que no se veía, producido por no se sabe qué traumas personales, que algún día serán estudiados en la historia de la psiquiatría. No ven (siento usar la palabra, Maria Alvarez) que es un fascista de última generación.
Hay quien todavía se niega a ver en la silueta de los Estados Unidos su avance a pasos agigantados hacia un régimen autoritario contra el que pronto será tarde para luchar (si es que eso es posible), y aún confía en que el peso y la solidez de sus instituciones revertirán el problema por sí solo. Quien ve en los inmigrantes no a personas, sino a problemas, y en el alcalde de Badalona a un ciudadano valiente, y no a un malaje. Quienes, en España, ven en algunos salvapatrias a honestos representantes del malestar popular, y no a los aprovechados caraduras que son. Quienes consideran que esta es una batalla entre el bien (los partidos de la izquierda) y el mal (los partidos de la derecha), que nos compele a obedecer ciegamente a gente que no merece nuestra confianza porque no hay otro remedio. En vez de ver a un político herido que se resiste, a cualquier precio, a morir, mientras se nos hurtan una y otra vez los debates en los que verdaderamente nos jugamos el futuro.
Los afectados por la antidolia no experimentan la necesidad de ponerse en alerta, sino más bien una difusa sensación de bienestar, y perciben que el mundo, gracias a sus alucinaciones, regresa a donde tenía que estar, un lugar de donde nunca se debió mover. Transforman, incluso, su abandono en un cierto sentimiento de compensación, como si por fin alguien o algo estuviese a punto de hacer justicia con ellos. Más que un herramienta evolutiva para defenderse del peligro,este sesgo visual parece consistir en un recurso con el que, a punto de ser abatidos por el depredador de turno, podemos abandonarnos a la ilusión de que tampoco es para tanto.
Hay quienes, sin embargo, son inmunes a este proceso mental: saben perfectamente que Donald Trump es un criminal, pero obedecerle les reportará beneficios; que los inmigrantes son seres humanos, la gran mayoría en situación de necesidad, pero que también son carne fresca y barata; que inocular el odio contra ellos reporta votos; y que simplificar el debate hasta llevarlo a nuestras amígdalas es mucho más fácil que responder a las cuestiones tan complejas que atormentan nuestro tiempo. Todos ellos son perfectamente conscientes de que las cosas son lo que parecen, pero han decidido transformarlas en otras distintas, simples y inapelables, para nuestra mejor digestión lingüística y visual. Ahora lo llaman, retorciendo el lenguaje como solo ellos saben hacer, “sentido común”.
En la línea de María Álvarez, dice Paul Krugman hoy que aún hay esperanzas. Pero a estas alturas, pensándolo bien, no sé si sería mejor que la AGI tomase el control. Y creer, atribuyéndole características humanas, que decidirá lo mejor para todos nosotros. Pero ya lo dijo Jenófanes: “si los caballos tuviesen manos, dibujarían a sus dioses como caballos”. Seguramente esté equivocado y a lo mejor nos exterminan.
Coda Musical
Cómo me ha costado encontrar una música que fuera bien con el artículo. No es que esta tenga mucho que ver (algo sí), pero oigan, son los Rolling.
Espero no haber hecho tirarse de los pelos a Daniel Arjona, Edu Rodríguez, Javier Jurado y a Julian Estevez, que son (entre otros muchos, como Antonio Ortiz) mis referencias en estas cosas.
"Imagina que eres un homínido en las llanuras de África. Escuchas un ruido en la hierba. ¿Es un depredador peligroso o es solo el viento? Si crees que el ruido en la hierba es un depredador peligroso y resulta ser solo el viento, has cometido un Error de Tipo I (falso positivo)... pero no te cuesta nada. Te pones a salvo y sigues adelante. Pero si crees que el ruido es solo el viento y resulta ser un depredador, has cometido un Error de Tipo II (falso negativo) y te conviertes en el almuerzo. Has sido eliminado del acervo génico".
Michael Shermer, en Scientific American: “The Pattern Behind Self-Deception” (El patrón detrás del autoengaño), 2008
"Nuestro cerebro está programado para buscar rostros porque una cara es la ventana a la intención. En nuestra historia evolutiva, el riesgo de no reconocer a un enemigo o no detectar una intención hostil en el rostro de otro era mucho mayor que el 'coste' de ver una cara donde no la hay. Por eso somos una especie antropocéntrica: proyectamos lo humano en el mundo porque necesitamos que el mundo tenga intenciones que podamos predecir."
Frans de Waal, “El último abrazo”, 2019
Una vez más acicalo mis pobres ideas con erudición barata para que parezca que tengo pensamientos profundos. Pero ya les digo que no los tengo: solo son ocurrencias.
Dejo aquí Instrucciones para subir una escalera o Instrucciones para llorar , de Cortázar. No volverán a subir una escalera igual.
Me he reído en voz alta con la foto de las nubes.
A Molly y a mí nos está diciendo todo el mundo que nos fuimos de Minneapolis justo a tiempo, pero la verdad es que nos gustaría estar allí para hacer algo. Poco antes de volvernos, vimos Cabaret en el teatro, en una versión bastante más oscura de lo que recordábamos, y cuando el judío decía "los gobiernos vienen y van, esto se pasará como se pasa todo", daba escalofríos, ya entonces. Mientras tanto los Demócratas ni están ni se los espera: Frey dice fuck en la tele y ya, contentos. Walz dice que nos queramos mucho los unos a los otros. En fin.
Yo sí creo que Trump acabará cayendo. Pero no puede ser que después de todo esto lo reemplace otro genocida demócrata al servicio de Wall Street.
Jajaja
Bueno, te perdono porque me gustan las cosas que escribes ;-).