Pareidolia, IA y el peligro de los patrones que encajan demasiado bien

En artículos anteriores hablábamos de cómo vemos patrones donde no los hay, y de cómo podemos llegar a “sobreajustar” nuestras explicaciones hasta que todo encaja.

Pero hay algo aún más peligroso: el momento en el que dejamos de cuestionar esos patrones.

El otro día me quedé pensando en algo aparentemente trivial. Por qué nos gusta tanto encontrar patrones. Ver caras en las nubes, detectar conexiones en historias o sentir que algo “encaja” produce una sensación casi física, como si el cerebro dijera: ya lo tengo. Y lo curioso es que esa sensación aparece incluso cuando el patrón no es real.

Pareidolia: cuando el sentido aparece de la nada

La pareidolia es ese fenómeno tan humano de ver formas reconocibles donde solo hay ruido. Una cara en una nube, una figura en una pared o una intención donde solo hay coincidencia. No es un fallo, es una característica.

Nuestro cerebro está diseñado para detectar patrones lo antes posible. Durante miles de años, equivocarse por exceso tenía poco coste, pero no detectar un patrón real podía ser peligroso. Así que preferimos ver de más.

La IA también busca patrones (pero de otra forma)

Un modelo de inteligencia artificial hace algo que, en apariencia, se parece mucho. Busca patrones en los datos, ajusta sus parámetros, reduce el error y encuentra regularidades.

Pero hay una diferencia clave: la IA no busca sentido, busca minimizar una función matemática. No “siente” que algo encaja, simplemente reduce su error. Y aun así, puede equivocarse de una forma sorprendentemente parecida a nosotros.

Cuando encontrar un patrón no significa entender

En machine learning hay un problema clásico: el overfitting. El modelo encuentra patrones que explican perfectamente los datos de entrenamiento, pero no funcionan fuera de ellos. Ha encontrado una explicación que encaja, pero no es la correcta.

Esto se parece mucho a lo que hacemos los humanos. Creamos narrativas, detectamos conexiones y dejamos de cuestionarlas porque “tienen sentido”. Es, en el fondo, una forma de pareidolia cognitiva.

El peligro de los mínimos locales

En optimización, un modelo puede quedarse atrapado en un mínimo local: una solución que parece buena, pero no es la mejor. Y deja de buscar.

En humanos pasa algo muy parecido. Encuentras una explicación que encaja y paras. No porque sea verdadera, sino porque es suficiente. Ahí es donde empiezan muchos errores de interpretación.

Double descent: cuando más complejidad genera más confusión

Hay un fenómeno curioso en machine learning llamado double descent. Al aumentar la complejidad del modelo, primero mejora, luego empeora y después vuelve a mejorar.

Durante esa fase intermedia, el modelo empieza a ver patrones en todo. Demasiados. Se vuelve especialmente sensible al ruido.

Y esto no es tan distinto de lo que ocurre en humanos. Cuando empezamos a entender algo en profundidad, muchas veces pasamos por una fase de sobreinterpretación: vemos conexiones en todas partes, explicamos más de lo necesario y todo parece tener sentido. Hasta que, poco a poco, aprendemos a distinguir lo relevante de lo accesorio.

Grokking: el momento en el que todo encaja de verdad

Y luego está el grokking, un fenómeno fascinante. El modelo parece haber aprendido, pero en realidad solo ha memorizado. Y de repente, mucho después, sin cambiar los datos, entiende.

No mejora poco a poco, da un salto. Ese momento en el que algo “hace clic”.

Esto también es profundamente humano. Al principio repites, luego ves patrones superficiales y un día, sin avisar, lo entiendes de verdad.

El patrón común

Aquí es donde todo conecta. Humanos y modelos de IA hacen algo parecido: buscan patrones, intentan explicar lo que ven y se detienen cuando algo encaja.

Pero el problema no es encontrar patrones. El problema es cuándo dejamos de cuestionarlos.

Los patrones que mejor encajan… no siempre son los más verdaderos

Esto es lo incómodo. Nuestro cerebro está diseñado para premiar la sensación de haber entendido.

Pero tanto en humanos como en inteligencia artificial, los errores más sutiles no vienen de no ver patrones. Vienen de verlos demasiado pronto y dejar de buscar.

Quizá el problema nunca fue que humanos o máquinas vean patrones donde no los hay. Quizá el problema es que estamos diseñados para sentirnos satisfechos cuando algo encaja, aunque no sea verdad.

Y en ese momento exacto, cuando sentimos que ya hemos entendido… es cuando dejamos de hacerlo.