Jorge Luis Marzo - Las videntes

La IA funciona con algoritmos. El origen del término se encuentra en el nombre del matemático persa al-Juarismi (s. ix). Se le considera tanto el fundador del álgebra como el introductor del actual sistema numérico, basado en unas reglas o principios generales. Así, los algoritmos son una serie de instrucciones precisas y expresiones matemáticas que se usan para encontrar asociaciones, identificar tendencias y extraer las leyes y dinámicas de los fenómenos. Los sistemas algorítmicos se encargan de la búsqueda de conocimiento (cosas que no sabemos todavía ), anticipando nuestros intereses y necesidades de información, por lo que el horizonte de nuestra imaginación está cada vez más determinado por los sistemas computacionales, incapaces de producir serendipia, el hallazgo afortunado e inesperado que se produce de manera accidental cuando se está buscando una cosa distinta. El nuevo mundo se nos presenta como algorítmicamente predecible y algorítmicamente previsto. En pocas palabras, la posibilidad de los pensamientos en paralelo que ha marcado la historia de las civilizaciones está cada vez más determinada por la «computabilidad efectiva», que solo permite hacer aquello que pueda ser computable. Ya digo que la inteligencia artificial se nos presenta como deudora solo frente a su propia lógica. Por eso, la previsión tiene un importante componente psicológico. El deseo de explicar el mundo en términos de simples relaciones de causa y efecto es una característica fundamental de los seres humanos y afecta a cómo percibimos los fenómenos, que no siempre se comportan mecánicamente. Las predicciones a menudo nos dicen más sobre la psicología de grupo que sobre la realidad. Esta es una de las cosas que recorrerán como un río subterráneo estas páginas.

Otra cosa importante. Ya hemos señalado que la IA ha encontrado la manera de leer las imágenes y aprender de ellas para juzgarlo todo. Creo que este proceso interpela directamente a los historiadores del arte, porque somos también responsables de lo que pasa. La forma en que las máquinas aprenden hoy a ver e interpretar el mundo es muy similar a los modos de catalogación desarrollados por la historia del arte o la antropología judicial. Pero no solo eso: designa el mundo a través de unas imágenes propias, resultado de sus cálculos: imágenes operativas , las llamó el artista Harun Farocki. Así, el universo humano es diseccionado mediante una iconografía de nuevo cuño, mediante visiones que no nos conciernen . Son máquinas cuya consistencia se está construyendo gracias a su decir veraz, a su veridicción matemática, que deja aparentemente inútil la opinión. En la medida en que su lenguaje deviene cada vez más visual, debemos volver a plantearnos el viejo problema del potencial de la visión mecánica para configurar sistemas del ver veraz, de la verovisión . Las imágenes técnicas siempre han tendido a ser interpretadas como verdades que desencarnan a todo sujeto, como las radiografías, que pretenden separar el trigo de la paja y exponer la realidad pura, la que es invisible y que, una vez mostrada, admite pocas contradicciones. Pero hoy las imágenes inteligentes se proponen como e -videncias, como indicios fehacientes no solo de la realidad sino de lo que debe constituirse como verdad de la realidad bajo el prisma de un ojo que todo lo ve, que cree saberlo todo porque percibe el éxito que tiene entre los humanos. No puedo estar equivocada, debe decirse esa pupila metálica para sus adentros, en la intimidad de sus relés y ruedas dentadas, ufana de los aplausos que recibe. Debemos entender que son las máquinas videntes las que hoy se erigen como árbitros de las contradicciones, dejándonos solo el papel de implementar hábilmente las recomendaciones que nos sugieren, cuando no imponen. ¿Qué explica entonces esta nueva especie de imagen? El lenguaje que siempre hemos utilizado es abrumadoramente iconográfico, es un alfabeto singular y bien antiguo. Empezamos con tres o cuatro imágenes en las cuevas y hoy acabamos diariamente en la cama con unos cuantos miles de imágenes artificiales impresas en la retina. Pero ¿qué vemos del mundo entre el trasiego visual desencadenado por unas imágenes que ya no son nuestras? ¿Qué etiquetas les estamos poniendo a los seres y las cosas gracias a estas imágenes? ¿Cómo percibimos nuestra ubicación en el tiempo a través de estos nuevos ojos-máquina?

La IA registra el mundo en símbolos y después los manipula usando su propia lógica para explicar el mundo. En 1977, las sondas Voyager 1 y Voyager 2 llevaron consigo al espacio exterior discos con sonidos e imágenes grabadas a fin de explicar la civilización humana a algún extraterrestre. Parece lógico que sean imágenes las que describan la humanidad a alguien que no conoce nuestro lenguaje. Al fin y al cabo, cuando nos encontramos con una persona cuyo idioma no hablamos, bien nos expresamos con gestos, bien con mímica, lo que está en relación con una representación. Tradicionalmente hemos pensado las imágenes como un medio para expresarnos entre los humanos, para contarnos y revelar cosas. Por ejemplo, las fotos las hemos hecho con unas máquinas para ilustrar una idea o un concepto, para que la abuela las guarde en el álbum y construya un relato de la familia, para presumir ante alguien de haber estado en la Gran Muralla china, o para indicarle a un colega médico el aspecto de un tumor. Pero ¿qué pasa cuando las fotos están hechas para que las máquinas –o los extraterrestres– puedan hablar entre ellas, sin contar con nosotros, con el fin de que nos analicen y pronostiquen? ¿Qué sucede cuando la función y el valor de las imágenes son determinados por lenguajes inhumanos , sin contar con nosotros? ¿Dónde quedan los ojos que no son máquinas? Lo dicho: ¿qué competencias nos asignan aquellos nuevos saberes inteligentes? Imaginemos a las sondas de regreso con un montón gigantesco de imágenes procesadas por algún marciano a partir de las 116 fotos que la NASA envió hace más de cuarenta años con la sana intención de interpretar lo que es la humanidad. ¿Cómo sería leído ese conjunto de nuevas imágenes? ¿Qué valor tendría entre nosotros esa aparente visión imparcial de nuestro mundo? ¿Qué lugar ocuparía en nuestra escala de verdades? ¿Y qué lugar sería el nuestro?

De esto va este libro. Para comprender cómo hemos llegado hasta aquí propongo tomar ciertos vericuetos que iluminen los nudos históricos con los que, a saltitos, fue atándose la verdad predictiva, una única forma de describir el mundo que no deja opciones a muchas alternativas. Vamos a intentar trazar una genealogía de la función de las imágenes en las ciencias dedicadas al pronóstico y la predicción, y el efecto que su implementación tiene hoy en nuestras vidas. Aunque en la psique humana encontramos la raíz del amor por el pronóstico, fue en el cientifismo visual y en el afán productivista de la imagen en donde ese impulso derivó hacia una ideología de lo objetivo, obsesionada por saberlo todo y por cancelar toda forma de incertidumbre. En el fondo, ese proceso ha acabado siendo una carrera para suspender el futuro, para prescribirlo bajo el dictado de vaticinios y terapias. Aquí, nos gustaría re-abrirlo un poco, nos gustaría «des-inventarlo» de modo que el porvenir no sea una mera celebración de los aciertos predictivos conseguidos en el ayer o un luto cínico e hipócrita por los descartes decididos en su día. Se trataría de proponer un horizonte en el que, no solo poder, sino querer equivocarnos.

1.Fragmento de código del proyecto Estrafet. Elocuencia y polifonía para redes neuronales , realizado por el Colectivo Estampa en 2019. Lo que hace este fragmento de código es pedirle a la red neuronal (la IA) cuáles son las palabras que tienen más probabilidades de ser las siguientes en un texto y le insta a escoger una en función de la «temperatura». La temperatura es el grado de semejanza de los términos que los programadores le indican a la máquina en relación con los textos de entrenamiento (en una escala de 1 a 9). Agradezco a los miembros del colectivo (Roc Albalat, Pau Artigas, Marc Padró, Marcel Pié, Daniel Pitarch) la cesión del material y el permiso de reproducción. https://tallerestampa.com/estampa/estrafet/