Qué es una alucinación en IA
El término suena dramático, pero describe algo muy concreto: una alucinación es cuando una IA genera información falsa con total convicción, sin ninguna señal de duda.
No es que el modelo dude y elija mal. Es que responde como si supiera, con el mismo tono seguro que usaría para decirte que la capital de Francia es París. Solo que lo que dice es incorrecto — o directamente inventado.
Fechas erróneas. Citas que nadie dijo nunca. Artículos científicos que no existen. Nombres de personas reales con biografías fabricadas. Todo entregado con la misma tranquilidad con la que te daría la hora.
Alucinación = cuando la IA se inventa algo y lo presenta como real. No lo hace con mala intención — es una limitación estructural de cómo funcionan estos modelos.
El ejemplo de El Caballero de los Siete Reinos
La serie adapta relatos que ocurren décadas antes de los eventos principales de Westeros. Un mundo conocido, pero con huecos enormes en su historia oficial.
Imagina que le preguntas a alguien que no ha visto la serie pero sabe mucho de Westeros en general: "¿Qué pasó exactamente en el tercer episodio?" Esa persona tiene suficiente conocimiento del universo como para construir una respuesta que suene plausible. Usa nombres reales, lugares correctos, un tono que encaja. Pero los detalles concretos los rellena con lo que "tendría sentido", porque no los recuerda con exactitud.
Eso es exactamente lo que hace una IA cuando alucina. Tiene el contexto general, conoce el territorio, sabe cómo suena una respuesta correcta en ese dominio. Y cuando le falta un dato específico, lo completa con lo que estadísticamente encaja — sin avisarte de que lo está haciendo.
El resultado es una respuesta que tiene toda la forma de ser verdad pero que, al verificarla, resulta ser parcial o directamente falsa. Y lo peligroso no es que ocurra — es que no hay ninguna señal de alarma visible.
El problema no es que la IA mienta. Es que no sabe que está mintiendo.
Por qué ocurre: la predicción de palabras
Para entender las alucinaciones hay que entender, aunque sea por encima, cómo funciona un modelo de lenguaje. En el fondo, estos modelos hacen una cosa: predecir qué palabra tiene más sentido después de la anterior, en función de todo lo que han aprendido.
No consultan una base de datos de hechos verificados. No tienen un mecanismo interno que diga "esto lo sé con certeza" o "esto no lo sé". Generan texto. Y cuando la pregunta les pide un dato concreto que no tienen claro, el modelo hace lo único que sabe hacer: producir la respuesta que estadísticamente tiene más sentido dado el contexto.
A veces esa predicción es correcta. A veces no. Y el modelo no distingue entre ambos casos.
En Amazon Alexa veíamos algo parecido cuando los sistemas de comprensión del lenguaje asignaban una intención a una frase con demasiada confianza, incluso cuando la frase era ambigua. El modelo no decía "no estoy seguro" — simplemente elegía la opción más probable y seguía adelante. Con los LLMs actuales el fenómeno es el mismo, solo que a otra escala.
Cómo detectarlas — y reducir el riesgo
No hay forma de eliminar las alucinaciones por completo. Pero sí puedes aprender a identificar cuándo el riesgo es mayor y actuar en consecuencia.
Cuándo desconfiar más
Qué puedes hacer
Tres hábitos que marcan la diferencia:
- Pide fuentes, pero verifica tú. Pedirle a la IA que cite sus fuentes reduce algo las alucinaciones, pero no las elimina. La IA puede inventarse la fuente también. Siempre comprueba en origen.
- Pregunta "¿estás seguro?" A veces, ante esa pregunta, el modelo reconoce que no lo está del todo y matiza. No siempre funciona, pero cuesta nada.
- Usa la IA para razonar, no para recordar. Donde mejor funciona es ayudándote a pensar, estructurar o redactar — no como fuente de datos verificados. Para eso, usa Google.
Nunca uses un dato concreto que te haya dado una IA sin verificarlo primero, especialmente si tiene consecuencias reales: un informe, una presentación, una decisión de negocio.
Preguntas frecuentes
¿Por qué una IA se inventa cosas?
Porque los modelos de lenguaje no consultan una base de datos de hechos verificados. Generan texto prediciendo qué palabras tienen más sentido según lo que han aprendido. Cuando no tienen datos suficientes, completan el hueco con lo que estadísticamente encaja — aunque sea falso.
¿ChatGPT alucina más que otros modelos?
Todos los modelos grandes alucinan. Unos más que otros, y en distintos tipos de preguntas. Con los años han mejorado mucho, pero ninguno está libre de este problema. La diferencia está en la frecuencia y en qué tipo de preguntas les cuesta más.
¿Puedo fiarme de lo que me dice una IA?
Para razonar, redactar, estructurar ideas o analizar textos que tú mismo le proporcionas, sí. Para datos concretos, fechas, nombres, estadísticas o cualquier cosa que vayas a citar fuera de la conversación — verifica siempre.
Las alucinaciones no son un fallo de diseño que se va a solucionar pronto del todo. Son una consecuencia de cómo funciona la predicción de lenguaje. Saber esto no es para desconfiar de la IA — es para usarla mejor, aprovechando lo que hace bien y compensando lo que no.
Si te interesa seguir con esta serie, el siguiente artículo explica qué es la temperatura en IA y cómo controlar si quieres respuestas más creativas o más predecibles. Y si quieres entender primero cómo funciona la memoria del modelo, empieza por qué es el contexto en IA.