Por qué la IA se inventa cosas y cómo evitarlo

La IA se inventa cosas porque un modelo de lenguaje no consulta una base de datos: genera, trozo a trozo, el texto más probable, y lo probable no siempre es verdad. Además, se entrena y se evalúa de forma que arriesgar una respuesta puntúa mejor que reconocer que no sabe. Estos errores se llaman alucinaciones y se pueden reducir mucho con buenas instrucciones, fuentes y verificación, pero a octubre de 2026 ningún modelo los ha eliminado.

Qué es una alucinación

Una alucinación es una respuesta falsa que la IA da con la misma seguridad que una verdadera. No es un error de cálculo ni un fallo del programa: es el modelo funcionando como funciona y produciendo algo que suena bien pero no es cierto.

Las más habituales son:

• Citas, sentencias, libros o estudios que no existen, con autor, fecha y página.
• Cifras precisas sin respaldo («el 37 % de las pymes…»).
• Biografías mezcladas: datos reales de una persona atribuidos a otra.
• En programación, funciones, opciones o librerías que nadie ha escrito.
• Resúmenes que añaden algo que el documento original no dice.

Lo que las hace peligrosas es que no se notan. El texto inventado tiene el mismo tono, la misma gramática y el mismo formato que el correcto.

Por qué alucina la IA

Predice, no consulta

Un modelo de lenguaje es, en esencia, una máquina de continuar textos: calcula qué token es más probable que venga a continuación, lo escribe y repite. No tiene una enciclopedia interna que mire antes de responder; tiene patrones aprendidos de miles de millones de documentos. Cuando el patrón coincide con la realidad, acierta. Cuando no, inventa con la misma fluidez. El mecanismo completo está en qué es un LLM y cómo funciona por dentro.

Hay datos que no se pueden deducir

OpenAI publicó en septiembre de 2025 un estudio, «Why language models hallucinate», que lo explica con un ejemplo sencillo. La ortografía o la sintaxis siguen reglas que el modelo aprende de sobra. Pero el cumpleaños de una persona poco conocida no sigue ningún patrón: o lo has visto muchas veces o no puedes saberlo. Los autores calculan que si el 20 % de esas fechas aparecen una sola vez en los datos de entrenamiento, cabe esperar que el modelo base se equivoque en al menos un 20 % de las preguntas sobre ellas.

Lo comprobaron con uno de los propios autores, Adam Tauman Kalai: preguntado por el título de su tesis doctoral, un chatbot dio tres títulos distintos en tres intentos, los tres falsos. Con su fecha de nacimiento pasó lo mismo.

Adivinar le sale a cuenta

La segunda causa es más incómoda. Los modelos se entrenan y se comparan con exámenes (benchmarks) que puntúan como un test sin penalización: dejar la pregunta en blanco vale cero, y arriesgar puede sumar. Si no sabe un cumpleaños y dice «10 de septiembre», tiene una posibilidad entre 365 de acertar; si dice «no lo sé», tiene cero seguro. Un modelo optimizado para sacar buena nota aprende a adivinar.

El mismo estudio lo ilustra con dos modelos de OpenAI en la prueba SimpleQA, preguntas cortas de datos sin acceso a internet:

Fuente: OpenAI, septiembre de 2025, con datos de la ficha técnica de GPT-5.

El modelo antiguo acierta un poco más, porque contesta a todo, pero se equivoca casi tres veces más. En una tabla de clasificación que solo mire los aciertos, quedaría por delante. La propuesta de los autores es cambiar cómo se puntúan los exámenes para que equivocarse cueste más que abstenerse.

Cree saber lo que no sabe

Anthropic estudió por dentro uno de sus modelos y lo contó en «Tracing the thoughts of a large language model» (marzo de 2025). Encontró que, por defecto, el modelo estudiado (Claude 3.5 Haiku) tiende a no responder sobre lo que desconoce. Cuando reconoce una entidad conocida (por ejemplo, Michael Jordan), un circuito de «esto lo conozco» desactiva ese freno y contesta. El problema llega cuando el nombre le suena pero no sabe nada más: el freno se desactiva igual y, una vez decidido que va a responder, el modelo rellena el hueco con algo plausible.

Tipos de alucinaciones

Una clasificación muy usada, la de un repaso académico de 2023 (Huang y otros), distingue entre errores de factualidad (contra la realidad) y de fidelidad (contra lo que le has pedido o le has dado). En la práctica se ven cinco tipos.

Invención

El modelo afirma algo que no existe: una sentencia del Supremo con número y fecha que nunca se dictó, un libro, un estudio. Es la alucinación más peligrosa porque viene con todos los detalles que la hacen creíble.

Error de hecho

Mezcla datos reales de forma incorrecta, como atribuir el teléfono a Edison. Las piezas existen, pero la relación entre ellas es falsa.

Infidelidad al documento

Contradice o amplía el texto que le pasaste. Un ejemplo típico es el resumen de un contrato que incluye una cláusula que no aparece en él.

Incoherencia

No cumple la instrucción o se contradice. Preguntado cuántas D hay en «DEEPSEEK», DeepSeek-V3 respondió «2» o «3», según el intento; hay una.

Código inventado

Funciones o librerías que no existen, como recomendar instalar un paquete con un nombre plausible que nadie ha publicado. Este tipo ya es un problema de seguridad. Un estudio presentado en USENIX Security 2025 analizó 576.000 fragmentos de código generados por 16 modelos: el 19,7 % de los paquetes que recomendaban no existían, con 205.474 nombres inventados distintos. Y no son errores al azar: el 43 % de los nombres inventados se repetía en diez intentos seguidos con el mismo prompt. Eso permite a un atacante publicar un paquete malicioso con ese nombre y esperar a que alguien lo instale (la técnica se conoce como slopsquatting). En 2024, un investigador de Lasso Security subió un paquete vacío con un nombre que los modelos inventaban, «huggingface-cli», y en tres meses superó las 30.000 descargas.

Casos reales

Mata contra Avianca (Nueva York, 2023)

Los abogados presentaron seis sentencias con citas falsas, generadas con ChatGPT. Uno de ellos llegó a preguntar al chatbot si eran reales, y le dijo que sí. El juez impuso 5.000 dólares de multa a dos abogados y a su bufete.

Tribunal Superior de Justicia de Navarra (2024)

En septiembre de 2024, una querella citó un artículo del Código Penal que en realidad pertenecía al colombiano, y el abogado lo atribuyó a ChatGPT. El tribunal archivó el asunto sin multa, pero lo dejó como «advertencia» sobre el uso descuidado de la tecnología.

Tribunal Superior de Justicia de Canarias (2026)

En febrero de 2026, el tribunal comprobó que 48 de las 52 citas de jurisprudencia de un escrito eran falsas, salidas de una herramienta de IA de pago. Multó al abogado con 420 euros y comunicó el caso al Colegio de Abogados.

Moffatt contra Air Canada (2024)

El chatbot de la aerolínea le explicó a un cliente una política de reembolso por duelo que no era la real. Air Canada alegó que el chatbot era responsable de sus propios actos; el tribunal rechazó el argumento y la condenó a pagar 812 dólares canadienses.

Deloitte y el Gobierno de Australia (2025)

Un informe de 440.000 dólares australianos encargado a Deloitte incluía referencias inexistentes y una cita inventada de una sentencia. La consultora acordó devolver el último pago y publicó una versión corregida.

La lista de lecturas del Chicago Sun-Times (2025)

De los 15 libros que recomendaba la lista de lecturas de verano, solo 5 existían; uno era un falso «Tidewater Dreams» de Isabel Allende. El autor reconoció que la había hecho en parte con IA: «Ha sido un error enorme por mi parte».

La demostración de Google Bard (2023)

En su presentación, Bard afirmó que el telescopio James Webb había tomado la primera foto de un planeta fuera del sistema solar; esa foto la hizo otro telescopio, en 2004. Alphabet perdió unos 100.000 millones de dólares de valor en bolsa ese día.

Cuántos casos hay

El abogado e investigador Damien Charlotin mantiene una base de datos de resoluciones judiciales con contenido alucinado: a 5 de octubre de 2026 recoge 2.149 casos en el mundo, ocho de ellos en España.

Hay un caso español más que conviene citar con precisión. El Tribunal Constitucional apercibió en septiembre de 2024 a un abogado que había entrecomillado pasajes de 19 sentencias que no existían. El tribunal no afirma que fuera IA (el abogado lo achacó a una base de datos), pero deja claro que, fuera cual fuera la causa, la responsabilidad es de quien firma.

¿Los modelos nuevos alucinan menos?

Sí, pero no tanto como para fiarse a ciegas. OpenAI asegura en la ficha técnica de GPT-5 (agosto de 2025) que su versión con razonamiento comete un 65 % menos de alucinaciones que o3 en conversaciones reales de ChatGPT. Pero en la prueba SimpleQA sin internet, ese mismo modelo sigue fallando el 40 % de las preguntas.

La clasificación independiente más seguida es la de Vectara, que mide cuántas veces un modelo añade algo falso al resumir un artículo. En su actualización del 22 de septiembre de 2026, el mejor resultado es del 1,8 %, y los modelos punteros de los grandes laboratorios están entre el 9 % y el 12 %: gpt-5.5 un 9,3 %, gemini-3.1-pro-preview un 10,4 %, claude-sonnet-4-6 un 10,6 %. Es decir, incluso los mejores meten algo que no está en el texto en torno a uno de cada diez resúmenes de esa prueba. Estas cifras no se pueden comparar con las de versiones anteriores de la tabla, porque cambiaron los textos por otros más difíciles.

Cómo evitar que la IA se invente cosas

Ninguna técnica las elimina, pero combinadas reducen mucho el riesgo. Las tres primeras son las que recomienda Anthropic en su guía para reducir alucinaciones, y valen para cualquier asistente.

1. Dale permiso para no saber

Si no se lo dices, el modelo asume que tiene que contestar. Pónselo por escrito:

Responde solo con información de la que estés seguro. Si no lo sabes
o no puedes comprobarlo, responde «No lo sé». Prefiero una respuesta
incompleta a una inventada.

2. Dale tú las fuentes

La forma más eficaz de evitar que invente es que no tenga que recordar: pégale el documento, adjunta el PDF o usa una herramienta que busque en tus archivos. Es lo que hace la técnica RAG, explicada en qué es RAG. Para preguntas sobre actualidad, activa la búsqueda web.

3. Exige citas literales antes de la respuesta

Con documentos largos, obliga al modelo a localizar el texto exacto en el que se apoya. Si no lo encuentra, no debería afirmarlo:

Te paso un contrato. Antes de responder, copia literalmente las frases
del contrato en las que te basas. Si el contrato no lo dice, responde
«El contrato no lo dice». No uses información de fuera del documento.

4. Pide fuentes que puedas abrir, y ábrelas

Pedir «con fuentes» no basta: un modelo sin búsqueda web puede inventarse también el enlace. Exige enlaces concretos, marca como dudoso todo dato sin fuente y abre al menos los que sostienen la conclusión. Esto vale también para los modos de investigación profunda.

5. Hazle revisar su propia respuesta

Meta propuso en 2023 la cadena de verificación: el modelo redacta, se hace preguntas para comprobar cada dato, las responde por separado y corrige. En sus pruebas con listas de datos, la precisión pasó de 0,17 a 0,36. Puedes aplicarlo con un segundo mensaje:

Revisa tu respuesta anterior. Haz una lista de cada afirmación
comprobable (nombres, fechas, cifras, citas). Para cada una, indica si
estás seguro, si tienes dudas o si podría ser inventada, y corrige lo
que haga falta.

6. Comprueba antes de instalar o publicar

En código, verifica que cada paquete existe en el repositorio oficial y tiene historial antes de instalarlo. En textos, comprueba toda cita, cifra, nombre propio y referencia legal en la fuente original. Más hábitos para programar con IA sin sustos, en 7 hábitos para programar con IA.

Por dónde seguir

• Para entender el contexto completo de la tecnología: qué es la IA generativa.
• Para que un asistente responda con tus documentos en lugar de con su memoria: qué es RAG.
• Para distinguir lo generado de lo real cuando no sabes de dónde viene un texto o una imagen: cómo saber si algo está hecho con IA.
• Para el vocabulario (token, ventana de contexto, temperatura): el glosario de inteligencia artificial.