Por qué la IA se inventa cosas (alucinaciones) y cómo detectarlas

Le preguntas algo a la IA y te responde con seguridad absoluta… pero resulta que es falso. Cita un libro que no existe, inventa una ley o se saca un dato de la manga. A eso se le llama «alucinación», y entender por qué pasa es la mejor forma de no caer en la trampa.

¿Qué es una alucinación de la IA?

Una alucinación es cualquier respuesta que el modelo genera y presenta como cierta, pero que es incorrecta o directamente inventada. Lo peligroso no es el error en sí, sino el tono: la IA no duda, no avisa de que no está segura. Suena igual de convincente cuando acierta que cuando se equivoca.

¿Por qué ocurren?

Para entenderlo hay que recordar qué hace en realidad un modelo de lenguaje: no consulta una base de datos de verdades, sino que predice la siguiente palabra más probable a partir de todo lo que ha leído. Su objetivo es sonar coherente, no ser veraz. Cuando no tiene el dato exacto, rellena el hueco con lo que «encaja», igual que rellenarías tú una frase a medias.

• No distingue entre lo que sabe y lo que se inventa: para él, todo es predecir texto plausible.
• Tiende a complacer: si le insinúas una respuesta, a menudo te dará la razón aunque sea falso.
• Cuanto más raro o específico es el dato (una cita, una fecha, un número), más probable es el invento.

Señales de que la IA podría estar alucinando

• Da datos muy concretos (cifras, fechas, nombres) sin citar de dónde salen.
• Cita estudios, libros o enlaces que no puedes encontrar en ningún sitio.
• Cambia la respuesta si repites la pregunta de otra forma.
• Responde con seguridad a algo imposible o sobre hechos posteriores a su entrenamiento.

Cómo reducir las alucinaciones

1. Pide fuentes: «cita de dónde sacas esto» o «si no estás seguro, dilo». No es infalible, pero ayuda.
2. Dale el contexto tú: pega el texto o los datos sobre los que quieres que responda en vez de fiarte de su memoria.
3. Usa herramientas con búsqueda: los asistentes que consultan internet y citan fuentes (como Perplexity) inventan menos.
4. Verifica lo importante: cualquier dato que vayas a usar en serio (médico, legal, financiero) contrástalo en una fuente humana fiable.
5. Desconfía de lo demasiado redondo: si una respuesta es sospechosamente perfecta y específica, comprueba.

Preguntas frecuentes

¿Las IAs más nuevas alucinan menos?

En general sí: los modelos recientes y los que consultan internet fallan menos. Pero ninguno está libre del problema, así que la verificación sigue siendo necesaria.

¿Es culpa mía si la IA se inventa algo?

No, pero un buen prompt ayuda mucho. Preguntas vagas o sugerirle la respuesta favorecen el invento. Aprender a pedir bien a la IA reduce el riesgo.

¿Para qué tareas es más peligroso?

Para todo lo que dependa de datos exactos: salud, leyes, finanzas, citas académicas. Para lluvia de ideas, redactar o resumir un texto que tú le das, el riesgo es mucho menor.

En resumen

La IA no miente a propósito: predice texto que suena bien, y a veces ese texto es falso. Trátala como a un becario brillante pero despistado: aprovecha su rapidez, pero verifica los datos que importan. Con buenas preguntas y un par de comprobaciones, las alucinaciones dejan de ser un problema serio.