Por qué vemos caras en las nubes, profecías en las coincidencias y patrones en la IA

Este es el primer artículo de una serie sobre pareidolia, narrativas y cómo la inteligencia artificial nos ayuda a entender nuestra propia mente.

Te propongo un pequeño experimento.

Mira una nube durante unos segundos.

Es muy posible que en algún momento te pase algo curioso: de repente verás una cara, un animal o alguna forma conocida.

No está realmente ahí, claro. Pero tu cerebro la reconoce enseguida.

Ese fenómeno tiene un nombre: pareidolia.

Es la tendencia de nuestro cerebro a ver patrones donde quizá no existen.

Y lo curioso es que este mecanismo no solo aparece cuando miramos nubes o montañas.

También aparece cuando interpretamos acontecimientos del mundo.

A veces vemos caras en las nubes.

Y otras veces vemos profecías en las coincidencias.

La famosa cara de Marte

En 1976 ocurrió algo bastante curioso.

La sonda Viking 1 de la NASA envió una fotografía de la superficie de Marte.

En la imagen aparecía una formación rocosa que parecía tener ojos, nariz y boca. Muchísima gente vio lo mismo: una cara gigantesca mirando al espacio.

Durante años hubo personas convencidas de que aquello no podía ser una simple roca. Algunos hablaban de civilizaciones antiguas. Otros de construcciones artificiales.

Pero había una explicación mucho más sencilla.

Nuestro cerebro es extraordinariamente bueno reconociendo caras.

Tan bueno que a veces las ve donde no existen.

Décadas después, cuando nuevas sondas tomaron fotografías con mayor resolución, la supuesta cara desapareció.

Lo que antes parecía un rostro misterioso resultó ser simplemente una colina iluminada desde un ángulo muy concreto.

Las sombras habían hecho el resto.

El divulgador científico Carl Sagan utilizó este ejemplo muchas veces para explicar algo importante: la mente humana está diseñada para encontrar patrones.

Y eso es, al mismo tiempo, una de nuestras mayores fortalezas… y una de nuestras mayores fuentes de error.

Nuestro cerebro vive buscando patrones

Desde un punto de vista evolutivo tiene todo el sentido.

Detectar patrones nos permitió:

• reconocer rostros
• anticipar peligros
• entender relaciones entre causas y efectos
• aprender del entorno

Sin esa capacidad no existirían:

• la ciencia
• la tecnología
• las historias
• el arte
• ni los proyectos que intentan cambiar el mundo.

Ver patrones es, en muchos sentidos, un superpoder humano.

Pero ese superpoder tiene un pequeño problema.

Funciona incluso cuando el patrón no está realmente ahí.

Historias bajo las estrellas

Hay algo más curioso todavía.

No solo vemos patrones.

Nos gusta descubrirlos.

Seguro que alguna vez has vivido algo parecido: una conversación tranquila, quizá en verano, mirando las estrellas o tomando algo con amigos. Alguien conecta dos ideas, luego tres, luego cuatro… y de repente aparece una historia que parece explicarlo todo.

Ese momento produce una sensación muy agradable.

La sensación de haber descubierto algo que antes estaba oculto.

Y muchas veces ahí nacen cosas maravillosas:

• libros
• teorías científicas
• empresas
• proyectos
• historias que nos acompañan toda la vida.

Pero ese mismo mecanismo puede llevarnos también a otro lugar.

Cuando las coincidencias parecen señales

Nuestro cerebro es tan bueno construyendo historias que a veces conecta hechos que en realidad no están relacionados.

Un acontecimiento ocurre.

Luego otro.

Luego otro más.

Y de repente aparece una narrativa que parece explicarlo todo.

El problema es que muchas veces la historia aparece después de los hechos, no antes.

El pensador Nassim Nicholas Taleb llamó a esto falacia narrativa: la tendencia humana a construir explicaciones coherentes a posteriori.

Es un poco como mirar una nube y ver una cara.

Una vez que la ves… ya no puedes dejar de verla.

Lo curioso es que la inteligencia artificial hace algo parecido

Los modelos de lenguaje actuales funcionan buscando patrones en enormes cantidades de texto.

En su forma más simple, un modelo intenta responder a una pregunta muy concreta:

¿Cuál es la siguiente palabra más probable?

En términos matemáticos se puede expresar así:

Es decir, dado un conjunto de palabras, el modelo intenta predecir cuál es la que probablemente venga después. En esencia, el modelo intenta adivinar cuál es la siguiente palabra más probable basándose en los patrones que ha aprendido en millones de textos.

En otras palabras: la máquina también está buscando patrones.

Cuando el modelo ve patrones donde no existen

En machine learning existe un concepto muy conocido: overfitting.

Ocurre cuando un modelo aprende demasiado bien los patrones de los datos con los que fue entrenado.

Tan bien, de hecho, que empieza a ver patrones incluso donde no existen realmente.

El modelo deja de generalizar y empieza a adaptarse demasiado a coincidencias del dataset.

En cierto sentido, empieza a ver caras en las nubes.

Un espejo inesperado

Quizá una de las cosas más interesantes de la inteligencia artificial no sea solo lo que puede hacer.

Sino lo que nos permite observar.

Cuando vemos cómo un modelo detecta patrones, cómo genera narrativas plausibles o cómo se equivoca por overfitting, estamos viendo algo sorprendentemente familiar.

Estamos viendo un mecanismo que se parece mucho al nuestro.

Las máquinas aprenden patrones.

Nosotros también.

Las máquinas pueden ver patrones donde no existen.

Nosotros también.

El desafío

Tal vez el desafío, tanto para los humanos como para las máquinas, sea el mismo.

Los humanos vemos caras en las nubes y profecías en las coincidencias.
Las máquinas ven patrones en los datos.
El desafío, en ambos casos, es distinguir entre coincidencia y realidad.

Porque cuando confundimos coincidencias con señales inevitables, las historias pueden empezar a empujar a las personas a actuar como si esas historias fueran verdad.

En machine learning intentamos evitar que los modelos sufran overfitting, es decir, que aprendan demasiado bien los patrones de un dataset concreto y empiecen a ver señales donde solo hay ruido.

Quizá nosotros también necesitamos algo parecido.

Aprender a disfrutar de las historias, de las tradiciones y de las conversaciones bajo las estrellas… pero sin olvidar que a veces una nube es solo una nube.

No a la guerra.