Alucinación

¿Qué es Alucinación?

Una alucinación es una afirmación que una IA da por buena y que no es cierta: un dato inventado, una cita que no existe, una función que el producto no tiene. No es un fallo raro ni un error de programación, es consecuencia de cómo funciona un modelo de lenguaje, que genera texto plausible sin comprobar nada por su cuenta. Anclar las respuestas en fuentes reales reduce el problema pero no lo cierra. Para una marca importa porque un motor puede describirla mal, y eso también se mide.

Términos relacionados