Por qué la IA alucina: inventa datos con total seguridad

Le pedí a un modelo la referencia de un estudio que yo recordaba a medias. Me la dio en un segundo: autor con apellido creíble, revista prestigiosa, año, número de página. La cita era perfecta. También era inexistente. Ni el paper, ni el volumen, ni esa página. El modelo no dudó, no titubeó, no puso un "creo que". Me miró a los ojos, por así decirlo, y me inventó una fuente con la misma serenidad con la que un niño te explica dónde fue el gato después de romper el jarrón.

A eso lo llamamos alucinación: cuando un sistema de IA produce información que suena plausible y es, sencillamente, falsa. Y la palabra confunde, porque sugiere una avería, un cortocircuito, algo que salió mal. No es eso. La alucinación no es un fallo del sistema. Es el sistema haciendo exactamente lo que sabe hacer, aplicado a un terreno donde no tiene con qué sostenerse.

01 · el hábitoPor qué la IA alucina: predice, no consulta

Para entender por qué la IA alucina hay que soltar una idea muy arraigada: que el modelo "busca" la respuesta en algún archivo interno, como quien abre un cajón. No hay cajón. Un modelo de lenguaje no guarda hechos en fichas ordenadas; guarda un enorme sentido estadístico de qué palabra tiende a seguir a cuáles otras. Ante tu pregunta, no recupera un dato: predice la continuación más probable, palabra por palabra.

Es un hábito, no una consulta. Como el amigo que siempre tiene una anécdota lista para cualquier tema: no está mintiendo a propósito, está completando la conversación con lo que su experiencia le dice que "va bien ahí". Cuando de verdad vivió esa anécdota, acierta. Cuando no, la construye con retazos de otras, y la cuenta con la misma soltura. El modelo hace justo eso, a escala industrial y sin la molestia de sonrojarse.

El modelo no busca la verdad. Busca la continuación más probable. A veces coinciden. A veces no.

02 · el punto ciegoEl modelo no sabe lo que ignora

Aquí está el corazón del asunto, y es más incómodo de lo que parece. Un modelo no tiene un medidor interno que se encienda cuando entra en terreno desconocido. No distingue "esto lo sé bien" de "esto lo estoy improvisando". Para su maquinaria, generar un dato que memorizó mil veces y generar uno que nunca vio son la misma operación: elegir palabras probables. La confianza con la que responde no mide cuánto sabe; mide cuán fluida le salió la frase.

Por eso una alucinación suena tan convincente. No viene marcada con una etiqueta de duda porque, para el sistema, no hubo duda. El aplomo no es una máscara que oculta la ignorancia: es que la ignorancia, ahí dentro, no se siente distinta del conocimiento. Es un punto ciego estructural, no una mala actitud.

Un trabajo muy citado de Ji y colegas revisó cientos de estudios y propuso una distinción útil [1]. Está la alucinación intrínseca, cuando el modelo contradice la propia fuente que se le dio (le pasas un texto y lo resume diciendo lo contrario). Y está la extrínseca, cuando afirma algo que no se puede verificar contra ninguna fuente: la cita inventada de mi anécdota. La segunda es la más traicionera, porque no hay nada en el texto con qué atraparla en el acto.

03 · el terreno resbaladizoCuándo es más probable que invente

No todas las preguntas tienen el mismo riesgo. La alucinación crece justo donde el patrón estadístico se adelgaza: datos muy específicos y poco frecuentes (una fecha exacta, una cifra, un número de página), temas de nicho con poca presencia en el entrenamiento, hechos posteriores al corte de conocimiento del modelo, y esas preguntas cuya premisa ya es falsa: si le pides que te explique un suceso que nunca ocurrió, te lo explicará encantado, porque su trabajo es continuar, no auditar tu premisa.

Hay una regla de crianza que aplica igual a los modelos: el terreno donde más inventan es aquel donde más quieres una respuesta y menos datos hay para darla. Las citas académicas son el caso perfecto. Tienen una forma muy regular (apellido, año, título, revista) que el modelo imita a la perfección, y un contenido muy específico que casi nunca memorizó. Forma sólida, fondo hueco: la receta exacta de una invención convincente.

04 · la correaCómo reducir que ChatGPT invente datos

La buena noticia, siguiendo la analogía de la crianza, es que a un modelo se le puede poner correa sin quitarle utilidad. Nada de esto elimina la alucinación por completo (conviene desconfiar de quien te prometa eso), pero sí baja mucho la frecuencia y, sobre todo, te da con qué atraparla.

Dale la fuente, no le pidas que la recuerde. La técnica más eficaz se llama RAG, generación aumentada por recuperación: en lugar de confiar en la memoria del modelo, el sistema primero busca documentos reales y le entrega ese material para que responda apoyándose en él [2]. Es la diferencia entre preguntarle a alguien de memoria y darle el libro abierto en la página correcta. El modelo sigue prediciendo, pero ahora predice sobre un texto que sí existe.

Pide que cite y verifica la cita. Cuando exijas una afirmación con fuente, no te quedes en que "tenga forma de fuente": comprueba que el enlace abra y que diga lo que el modelo afirma. Una cita bien formateada no es una cita verdadera.

Deja que dude en voz alta. Instruir al modelo para que responda "no lo sé" cuando no tenga base, y para que separe lo que sabe de lo que supone, reduce el aplomo automático. No lo cura del punto ciego, pero le enseña a levantar la mano.

No le pidas a la IA que recuerde el dato. Dale el dato y pídele que trabaje con él.

Al final, entender por qué la IA alucina cambia la relación que tienes con ella. Deja de ser un oráculo que a veces falla y pasa a ser lo que de verdad es: un predictor asombrosamente fluido, útil de sobra, que no distingue entre lo que sabe y lo que improvisa. Ese es su punto ciego. Y como con cualquier compañero brillante y un poco fabulador, la regla es simple y vieja como el mundo: en lo que importa, confía, pero verifica.