Votre agent renvoie quelque chose d'étrange. Était-ce l'invite, un appel d'outil qui a expiré, ou une réponse que votre code n'a pas pu analyser ? Sans traces, vous devinez.

Un client demande au nouvel assistant de support basé sur l'IA d'une entreprise si un abonnement acheté il y a 15 jours est éligible à un remboursement. L'assistant répond en expliquant que l'entreprise offre une fenêtre de remboursement de 30 jours, décrit le processus d'annulation et promet que l'argent arrivera dans les cinq jours ouvrables. En réalité, l'entreprise n'autorise les remboursements que dans les 14 jours. L'assistant a inventé un engagement fictif de toutes pièces.

L'hallucination dans le contexte des LLM est une information générée qui est factuellement incorrecte, inventée ou incohérente avec le matériel que le modèle est censé utiliser. L'ensemble de la réponse peut ne pas être erroné, mais un petit détail fabriqué peut être la partie sur laquelle le lecteur s'appuie.

Les erreurs se répartissent en trois catégories : une hallucination factuelle contredit la réalité ; une hallucination de fidélité concerne la relation entre la réponse et les preuves fournies ; la fabrication implique l'invention de quelque chose comme une section de politique ou un article de recherche. Ces catégories se chevauchent.

Entités clés : Entreprises : ByteByteGo, Sentry | Personnes : Serge

FAQ : Qu'est-ce qu'une hallucination dans un LLM ?

Une hallucination est une information générée qui est factuellement incorrecte, inventée ou incohérente avec le matériel que le modèle est censé utiliser. Il peut s'agir d'un seul détail fabriqué au sein d'une réponse par ailleurs correcte.