Tu agente devuelve algo extraño. ¿Fue el prompt, una llamada a herramienta que expiró, o una respuesta que tu código no pudo analizar? Sin trazas, estás adivinando.

Un cliente pregunta al nuevo asistente de soporte basado en IA de una empresa si una suscripción comprada hace 15 días califica para un reembolso. El asistente responde explicando que la empresa ofrece una ventana de reembolso de 30 días, describe el proceso de cancelación y promete que el dinero llegará en cinco días hábiles. En realidad, la empresa solo permite reembolsos dentro de 14 días. El asistente ha inventado un compromiso falso de la nada.

La alucinación en el contexto de los LLM es información generada que es factualmente incorrecta, inventada o inconsistente con el material que se supone que el modelo debe usar. Toda la respuesta puede no estar equivocada, pero un pequeño detalle fabricado puede ser la parte en la que el lector confía.

Los errores caen en tres categorías: una alucinación factual contradice la realidad; una alucinación de fidelidad se refiere a la relación entre la respuesta y la evidencia proporcionada; la fabricación implica inventar algo como una sección de política o un artículo de investigación. Estas categorías se superponen.

Entidades clave: Empresas: ByteByteGo, Sentry | Personas: Serge