Las videntes

LAS VIDENTES

Imágenes en la era de la predicción

Jorge Luis Marzo

ARCADIA

INTRODUCCIÓN

Los hermanos Marzo a mediados de los años setenta.

LAS GAFAS DE NADAR

Cuando era chico, uno de los pasatiempos con los que más disfrutaba junto a mi hermano consistía en sentarnos en un banco de la calle y jugar a adivinar a qué se dedicaba la gente que pasaba por delante. Procedíamos de la siguiente manera: primero, nos poníamos de acuerdo en escoger a alguien. Nunca elegíamos a personas muy mayores o a chavales como nosotros. Tampoco a personas cuyas ocupaciones eran obvias, como transportistas, barrenderos o carteros. A menudo, uno u otro descartaba el objetivo propuesto por razones un tanto borrosas: acaso porque no nos inspiraban nada. Cuando habíamos acordado el personaje a escudriñar, nos quedábamos callados mientras lo seguíamos con nuestra atenta mirada. Al rato, comenzaban nuestros pronósticos. Discutíamos sobre la manera de vestir, sobre las prisas en el caminar, sobre el modo en que fumaba o se peinaba, sobre la calidad del maletín o el bolso, sobre la actitud que expresaba la mirada, cosas así. Nos sentíamos como detectives. A menudo, el uno felicitaba al otro por la sorpresa de algún argumento inesperado, pero también había veces que nos burlábamos de ideas que nos parecían una solemne tontería.

Este es oficinista del Banesto, tiene tres hijas y veranea en Salou. Esta es profesora, está divorciada y hace mucho deporte. Este es tonto y le duele la espalda. Esta es muy guapa y debe de ser importante. Este era el tipo de dictámenes. Nos parecía que un andar lento era síntoma de desidia o desdén; que sostener el bolso en el interior del codo, a diferencia de sostenerlo con la mano, era un indicio de poder y dinero; que los bajos de un pantalón sin dobladillo eran propios de un currante de obra; que llevar gafas de sol por la tarde era un signo de estupidez. Cuando los dos coincidíamos en el diagnóstico, chocábamos las palmas de las manos, como hacen en los partidos de baloncesto.

Un día decidimos ir un poco más allá. Quisimos comprobar si realmente acertábamos. Seguiríamos a la persona escogida para ver si podíamos certificar su ocupación o estatus. Seleccionamos a una señora que iba acompañada de sus hijos, una niña y un niño algo más pequeños que nosotros, de unos ocho o nueve años. La señora iba bien arreglada y parecía ajetreada. Iría con traje chaqueta y tacones, y con un pañuelo anudado al cuello. Recuerdo que la elegimos porque era el tipo de persona que no se veía a menudo por el barrio. Nuestro veredicto había sido que trabajaba de abogada o en algo así, y que en ese momento tenía que llevar a los niños a algún sitio, quizá a la piscina, porque llevaban unas mochilas a la espalda y la piscina no estaba lejos. Empezamos a seguirlos a una distancia que mi hermano calificó de «prudencial», yo creo que para darse aires. Mientras los teníamos enfrente, fuimos añadiendo detalles a nuestra pesquisa. Probablemente eran felices, dijimos, porque mamá siempre decía que una casa, para ser del todo feliz, debía tener la parejita. Nosotros no teníamos hermana. También descubrimos que la señora caminaba un metro o dos por delante de los niños, lo que me indujo a pensar que quizá tenía demasiada prisa o acaso era una mala madre. Mi hermano dijo que no, que los niños parecían un poco bordes y que acaso la madre pasaba de ellos.

Los semáforos suponían un problema. No sabíamos qué hacer. Nos veíamos ridículos parándonos a unos metros de ellos. Mi hermano dijo que parecíamos delincuentes a la espera de pegar un palo. Ni siquiera podíamos disimular haciendo ver que nos atábamos los zapatos, porque calzábamos bambas sin cordones, como era preceptivo entonces. Llevaríamos ya unas cuantas calles cuando la niña se giró y nos miró. Nos detuvimos en seco. Vimos que le decía algo a su hermano a la oreja. Este también se giró. Luego, se adelantó para tomar la mano de su madre y le contó algo. La señora se volvió y enseguida nos encontró con la mirada. Hizo un gesto a sus hijos de que se quedaran donde estaban y se dirigió a nosotros. Estábamos paralizados. Yo, que he sido siempre más cobarde que mi hermano pequeño, di un paso atrás, con ademán de huir. «¿Qué queréis, mocosos?», nos preguntó con un tono burlón, sin enojo. «Nada», dije yo. Entonces, mi brother le preguntó con un hilillo de voz: «¿Es usted abogada o algo así?». Ella frunció el ceño, miró a los lados como buscando algo, incluso más allá, como al final de la calle, como al horizonte, y dijo: «¿Os conozco?, ¿cómo sabéis eso?». Salimos corriendo, a toda pastilla. Mi hermano, desde entonces, siempre que tiene oportunidad, dice que lo más importante es explorar la relación oculta de las cosas. Antes de doblar la primera esquina, mi hermano se paró de nuevo y les gritó: «¿Vais a la piscina?». Y la cría, metiendo la mano en la mochila, sacó unas gafas de nadar que nos enseñó moviéndolas como una bandera.

LA BOLA DE CRISTAL

Dicen que la luz que emiten las bolas de cristal sobre las que se inclinan las médiums para conocer lo que va a suceder tiene un color especial, tirando al azul. Aquel artilugio esférico, frío, transparente, frágil e inmóvil, capaz de transmitir imágenes de otros tiempos y espacios, lo tienen arrinconado en el desván. Desde que las máquinas hacen lo mismo, los operarios ya no visten turbantes y la experiencia se ha hecho más cómoda que en los tiempos en los que había que correr las cortinas del salón y reunirse alrededor de una mesa con las manos cogidas. ¿O no?

Ver el futuro tiene que ver con intentar el gobierno de la propia vida. Gobernar, kybernan, significa pilotar un barco, de cuya misma raíz surge cibernética. El observar el mundo desde la proa de nuestros ojos nos ha ayudado desde los orígenes a comprender, a aprender, a distinguir muchos de los elementos previsibles o no que nos rodean. Saber lo que más o menos te espera mañana genera un estado de cómoda seguridad; es la que busca el campesino al otear el cielo, el transportista al escuchar los partes de tráfico o el usuario que espera sus likes. La predicción es alimento para el hambre general de conocimiento y de cualquier industria humana, y gasolina de imaginarios y deseos. Hoy, esa predicción viene escrita en números matemáticos, y todo ya es gobernar un timón invisible en un mar azulado. Es invisible porque así camufla el hecho de que no está en nuestras manos. ¿O sí?

La intención aquí es trazar el curso que ha llevado a las máquinas a hacer suyo el lenguaje de los oráculos a la hora de interpretar y juzgarlo todo, especialmente a los humanos. Los ordenadores están aprendiendo muy rápido a hacer una cosa que hasta ahora les era muy difícil: ver imágenes, ver el mundo mediante imágenes, escribirlas, convertir en imágenes todo lo que escriben, llevándonos con ello a interpretar el mundo casi exclusivamente a través de ellas. Se han convertido en máquinas videntes.

Tiresias fue uno de los más célebres videntes de la Grecia clásica. Vio lo que no debía, a Atenea desnuda en el baño, y fue castigado con la ceguera. Luego, la diosa, arrepentida por imponer una pena tan severa, le concedió el don de la adivinación. El acceso a los secretos tuvo el efecto de dejar a Tiresias ciego ante el presente pero vidente del porvenir. La videncia te separa de la realidad para introducirte en el valor. Porque adivinar es hacerse divino, aceleradamente, por eso la economía es el gran barómetro de su estatus, ya que representa el dominio frenético de la planificación, de la toma de decisiones, y el modelo que regula el valor: nada sirve si no es productivo. Las predicciones son muy baratas porque ya hay muchos datos, razón por la cual se hacen ubicuas y expansivas. Y son muy rápidas de hacer. Una predicción más barata significa más predicciones. Una predicción muy rápida significa más plusvalía, porque el valor de los datos requiere que estén al día para que los pronósticos no sean ya viejos cuando los obtenemos. Ya conocemos cómo funciona el mercado: cuando el coste de algo cae, la producción se acelera y se gana más dinero. Es una promesa de plusvalía permanente. Los algoritmos no saben dónde parar: su productividad se basa en vincularlo todo, sin dejar nada fuera, no permiten que quede ninguna pieza del puzle sin montar: el estudio de dos neuronas solas no les dice nada, pero el análisis de todas las neuronas les cuenta todo, los hace omniscientes.

Cibernética y bolas de cristal. Muy esotérico. Por eso deberíamos saber de qué hablamos. Para empezar, solo hay que ir a cualquier página académica, empresarial, artística o activista y buscar «deep learning», «machine learning», «redes neuronales», «computer vision», «pattern recognition», «clustering», «regresión», «estimación bayesiana», «redes de capsula», etc., en definitiva, se acabará uno topando con la inteligencia artificial, o IA, si ahorramos algo de papel. Pero ¿qué es la IA? Comencemos por su escritura.

def generate_tokens(

self,

tokens_prefix: List[str],

tokens_to_generate: int,

top_k: int,

temperature: 0.8

) -> List[str]:

tokens = list(tokens_prefix)

for i in range(tokens_to_generate):

ntk_values, ntk_indices = self.get_next_top_k(tokens[- self. model.hparams.n_ctx:], top_k)

if temperature > 0:

ntk_values_temp = torch.div(ntk_values, temperature)

ntk_values_exp = torch.exp(ntk_values_temp)

ntk_values_exp_sum = torch.sum(ntk_values_exp)

ntk_values_mult = torch.div(ntk_values_exp, ntk_values_ exp_sum)

ntk_selected = torch.multinomial(ntk_values_mult, 1)

next_token_n = ntk_indices[ntk_selected]

next_token = self.id_to_token(next_token_n)

else:

next_token_n = ntk_indices[0]

next_token = self.id_to_token(next_token_n)

tokens.append(next_token)

if next_token == END_OF_TEXT:

break

return tokens1

Es un fragmento de código para la autogeneración de textos y poemas, por cierto, muy bellos: «La nit és plena de miracle / que és la fi dels déus de la memòria. / Som sols per la por i la mort, contra el somni i la paraula justa». Sin conocimientos de programación, solo somos capaces de comprender términos sueltos del código; se nos escapa el orden sintáctico, semántico, su lógica interna (cuando, si se mira bien, mucho tiene que ver con proposiciones condicionales, el colmo de la lógica: «si esto, entonces aquello»). Es como si el lenguaje sabido de letras y números se lo hubiera tragado una máquina o un animal de pensamiento extremadamente seco, y lo devolviera regurgitado en una secuencia misteriosa. Son signos que despiertan temor, no por ser lenguas ignotas e inaccesibles, sino porque son el reflejo de nuestras vidas procesadas matemáticamente y sin la menor indulgencia, aunque se presenten vestidas de poesía. Al abanderar la búsqueda de la verdad, las matemáticas se maquillan de libertad y prometen seguridad en un mundo volátil y precario. Todo ello produce fenómenos fascinantes en numerosas esferas de nuestra vida, como ver a grandes masas llevar en la mano un nuevo librito rojo, ahora en forma de catecismo ideológico sobre las ventajas de la IA en la vida social. Este es un fenómeno que entiendo que hay que estudiar en términos de biopolítica y de biodicción, o, lo que es lo mismo, bajo la premisa de que nos lleve a cavilar cómo la predicción gestiona nuestros cuerpos y deseos, qué efectos tiene a la hora de describirlos y, sobre todo, a la hora de ponerlos en relación con el todo. O sea, qué competencias nos quiere asignar a los humanos la vieja ideología de la predicción en el nuevo orden de cosas que instaura la inteligencia artificial.

La IA es un concepto muy amplio que se refiere al uso de la computación para imitar las funciones cognitivas del ser humano en campos muy variados. En lo que aquí nos interesa, es la capacidad de un sistema informático para interpretar correctamente datos externos a él sin partir de ningún modelo cerrado, aprender de dichos datos y emplear esos conocimientos para inferir escenarios de futuro. El objetivo de esas máquinas no es replicar los datos con los que se alimenta, sino la correcta predicción de nuevos datos. Es, por lo tanto, una tecnología de predicción.

El principal motor detrás de la IA es el cálculo estadístico, donde ir de las observaciones particulares a las descripciones generales se llama inferencia, y el aprendizaje se denomina estimación. La clasificación se llama análisis discriminatorio. Son términos importantes. El acontecimiento más grande de la física del siglo XX fue el descubrimiento de que el mundo no está sujeto al determinismo, sino al desorden. La lógica desarrollada durante los siglos en los que se creía que el mundo era un modelo regular, y que había sido diseñado para confirmar patrones repetitivos, encontró un gran acomodo con la aparición de las ciencias del caos, en donde la búsqueda de patrones se orientó hacia la detección del punto de no retorno, del momento en que se produce la singularidad. Allí surgieron las ciencias estadísticas encaminadas al establecimiento de probabilidades: el análisis de riesgos. Muchas de nuestras actividades implican procesos aleatorios y ahí entra la estadística para determinar modelos del azar y del libre albedrío. De esos cálculos se podrá inferir una predicción. Los humanos somos mejores que las máquinas para decidir qué hacer cuando no hay muchos datos. Pero cuando hay montones, porque montones son las singularidades, la estadística es bastante más hábil porque sabe cosas que nosotros no.

La inferencia es el objeto de estudio tradicional de la lógica (así como la materia es el de la química y la vida el de la biología). La lógica investiga los fundamentos por los cuales algunas inferencias son aceptables, y otras no. Cuando una inferencia es aceptable, lo es por su estructura lógica y no por el contenido específico del argumento o el lenguaje utilizado. La inteligencia artificial se ha construido sobre esos suelos: solo se debe a su propia lógica. Este asunto problemático recibe el nombre de black box, o caja negra, que define la dificultad, cuando no imposibilidad, de interpretar el proceso de aprendizaje de los algoritmos desde el exterior. Steven Strogatz, uno de los padres de las ciencias de las redes, opina que lo mejor que se puede hacer es sentarse junto a la máquina y escuchar: «No entenderemos por qué el oráculo tiene siempre razón, pero podremos verificar sus cálculos y sus predicciones con experimentos y observaciones y confirmar sus revelaciones». Un programador mexicano me lo expresó de forma si cabe más gráfica: «Es lo que hay, o te aclimatas o te aclimueres. Nunca se sabe muy bien por qué los algoritmos hacen lo que hacen, lo importante es que lo hagan». Este es precisamente uno de los principales argumentos de los nuevos adivinos para equiparar la inteligencia humana y la artificial y justificar la naturalidad de la segunda: del mismo modo que no es necesario (ni acaso podemos) conocer la dinámica interna que mueve a nuestro cerebro a activar ciertos músculos y redes neuronales cuando, por ejemplo, saltamos un charco, tampoco «aporta» mucho saber la dinámica última de un dispositivo inteligente que llega a hacer las cosas que se le piden, siempre y cuando las haga. Llegamos, por consiguiente, a un nuevo límite en la ética industrial de la mecánica: es el producto o el servicio lo que cuenta, de poco sirve debatir sobre los procedimientos de la máquina si, al fin y al cabo, cumple con sus promesas.

El aprendizaje automático (machine learning) es el modo en que las máquinas aprenden a buscar ciertas cosas a partir de un conjunto de datos, que deben ser muy numerosos para que aprender sea más rápido y preciso. El aprendizaje automático y la predicción son posibles porque el mundo parece tener regularidades. La predicción es el proceso de rellenar la información que falta: toma la información disponible, llamada «datos», y la usa para generar información que no tiene a partir de las regularidades que la experiencia enseña. La capacidad de generalizar es la fuerza básica del aprendizaje automático: permite crear patrones y luego generalizarlos mediante una regla. Una regla es lo que se crea a partir del análisis de patrones y se usa para predecir el futuro. Por lo tanto, la IA no nos trae realmente la inteligencia, sino un componente crítico de la inteligencia: la predicción.

La inteligencia artificial se nutre de datos y son de tres tipos: los datos de entrada, que son los datos a pelo; los datos de entrenamiento, que se utilizan para enseñar al algoritmo el modo de buscar patrones entre los datos a pelo; y los datos de retroalimentación, que se utilizan para mejorar el rendimiento del algoritmo mediante la experiencia, por ejemplo, diciéndole dónde ha fallado o señalándole «singularidades», lo contrario a las regularidades. En algunas situaciones, existe una considerable superposición, de tal manera que los mismos datos desempeñan los tres papeles. Pero los datos no son relevantes solamente porque tratamos con asuntos informáticos, sino sobre todo porque representan el telón de fondo de un conflicto más profundo: el propio cambio de paradigma científico.

Físicos como Luca Gammationi y Angelo Vulpiani han advertido que en los últimos años ha surgido una influyente línea de pensamiento que sostiene que, debido a que muchos sistemas complejos se resisten a la habitual aproximación matemática, es necesario ir más allá del modo tradicional de estudiar la naturaleza. Gracias a la actual disponibilidad de enormes masas de datos, la ciencia estaría a punto de entrar en una nueva era en la que la causalidad ya no jugaría el papel fundamental que ha tenido en los últimos siglos: la simple correlación de datos ya sería suficiente para explicar el funcionamiento del mundo. Esta teoría conduciría a plantear una nueva revolución científica que vendría a revelar un cuarto paradigma adicional a los tres ya existentes: el experimental, el teórico y el computacional. Un gurú informático como Chris Anderson, editor jefe de la revista Wired, escribió en 2008 un artículo en el que hablaba del fin del método científico gracias a la llegada del Big Data, o de lo que él llamaba la «ciencia de Google»: «La gran cantidad de datos disponibles deja al método científico obsoleto […]. Ya podemos analizar los datos sin necesidad de hipótesis». Preguntémonos: ¿es posible una ciencia puramente inductiva, predictiva, basada solo en observaciones supuestamente objetivas y exenta de toda teoría que anteponga un «por qué»? ¿Podemos llegar a pensar y aceptar que el resultado de la simple sintaxis lógica de unos datos cruzados no necesita de un marco determinado de interpretación para ser aprobado o rechazado? Se trata de un tipo de pensamiento que pretende maridar subrepticiamente un positivismo radical con los orígenes puramente augurales de la iglesia. La palabra latina templum describía antes que nada el fragmento de cielo dentro del cual se observaba el vuelo de las aves a fin de interpretar la voluntad de los dioses. Se talaba una sección determinada de bosque, los adivinos se sentaban en el centro del claro y levantaban sus miradas hacia esa ventana superior con la idea de que ese marco cancelara toda lógica discursiva anterior o posterior a la imagen que se producía. Se suprimían así las teorías generales de la causalidad para otorgar al instante un poder epidémico en la explicación general de las cosas. Habremos de ver este problema desde diversas ópticas, pues la noción de contexto (su definición in absentia) es un asunto nuclear si queremos hacer una crítica eficiente de la razón predictiva. Tengamos presente que la experiencia del vaticinio se conduce siempre mediante la cancelación de todo contexto: solo cuenta lo que se produce en el espacio previamente acotado y aislado de toda influencia exterior.