Paranoia, IA y el siguiente paso después de ver patrones

Hace unos días publiqué un artículo sobre pareidolia, esa tendencia tan humana a ver patrones donde no los hay. Hablábamos de caras en las nubes, de formas en el ruido… y de cómo, en el fondo, ese mismo mecanismo aparece también en los modelos de inteligencia artificial.

Hablando sobre el tema en una cena mientras tomabamos una cerveza, mi amigo Enrique, que es el mayor experto que conozco en la conciencia y en filosofía, lleva muchos años en estos temas, me dijo algo que en ese momento no terminé de entender del todo:

Eso que cuentas se parece bastante a la paranoia.

No le di demasiada importancia al principio. Entre otras cosas porque, siendo honesto, no tengo muy claro qué es exactamente la paranoia más allá de la idea general que todos tenemos. Así que hice lo que solemos hacer en estos casos: buscar una definición, leer un poco… e intentar aterrizarlo.

Y ahí empezó a ponerse interesante.

Lo que encontré, simplificando mucho, es que la paranoia no tiene tanto que ver con “pensar cosas raras”, sino con atribuir intención. Es decir, no solo ver que algo ocurre, sino asumir que ocurre por algo, que hay una causa detrás, una voluntad, alguien (o algo) que lo provoca.

Y de repente me di cuenta de que esto es un paso más allá de lo que contábamos con la pareidolia.

En la pareidolia ves una forma.
En algo como el overfitting cognitivo empiezas a creer que hay un patrón.
Pero en la paranoia ocurre algo distinto: ese patrón ya no es solo un patrón… tiene intención.

Y aquí es donde, inevitablemente, volví a pensar en la inteligencia artificial.

Cuando trabajas con modelos de lenguaje durante suficiente tiempo, hay una sensación que aparece una y otra vez. El sistema responde con coherencia, enlaza ideas, mantiene el hilo de la conversación… y llega un punto en el que es muy fácil sentir que “sabe lo que está haciendo”.

No porque lo hayas analizado en profundidad.
Sino porque lo parece.

Este tipo de sistemas funcionan, en esencia, detectando patrones y generando texto que encaja con esos patrones. No hay comprensión en el sentido humano, no hay intención detrás de las respuestas. Y sin embargo, el resultado es lo suficientemente consistente como para que nuestro cerebro haga el resto del trabajo.

Y ese “resto del trabajo” es justo lo interesante.

Hay un experimento muy conocido, la “habitación china”, que plantea algo parecido: un sistema puede generar respuestas perfectamente coherentes sin entender nada de lo que está diciendo. Desde fuera, sin embargo, resulta indistinguible de alguien que sí entiende.

Algo similar ocurre con el test de Turing si el comportamiento es lo suficientemente convincente, dejamos de preguntarnos qué hay detrás.

Y en ese punto, casi sin darnos cuenta, damos un paso más.

Pasamos de pensar: “esto tiene sentido”

a pensar: “esto lo hace por algo”

Ese salto es muy pequeño… pero cambia completamente la interpretación.

Porque en ese momento ya no estamos hablando de patrones ni de respuestas. Estamos hablando de intención. De agencia. De algo que decide, que quiere, que persigue un objetivo.

Y ahí es donde la cosa se vuelve delicada.

Esto se nota todavía más cuando empiezas a trabajar con sistemas más complejos, lo que ahora se suele llamar IA agentica. Sistemas que no solo responden, sino que ejecutan acciones, encadenan pasos, utilizan herramientas. Desde fuera, el comportamiento se parece mucho más al de un “agente”.

No hace falta que haya intención real para que lo parezca.

Y cuando lo parece, nuestro cerebro hace lo que lleva haciendo miles de años: completar la historia.

No estoy diciendo que la IA sea “paranoica”, ni mucho menos. Tampoco que tenga intenciones ocultas. De hecho, todo apunta a lo contrario.

Lo que sí me parece interesante es esto:

no hace falta que exista intención para que nosotros la veamos.

Y eso no habla tanto de la tecnología… como de nosotros.

Quizá la pareidolia era solo el principio.
Primero vemos formas. Luego patrones. Después sentido.

Y en algún punto del camino, empezamos a ver intención donde probablemente no la hay.

Con la IA, ese proceso no desaparece.
Si acaso, se vuelve más fácil.

Y ahí es donde merece la pena parar un momento y preguntarse:

¿estamos entendiendo lo que vemos…
o estamos completando demasiado rápido lo que creemos que significa?