エージェントが奇妙なものを返します。プロンプト、タイムアウトしたツールコール、またはコードが解析できなかった応答でしたか？トレースがなければ、推測することになります。

顧客が会社の新しいAIベースのサポートアシスタントに、15日前に購入したサブスクリプションが返金の対象になるかどうかを尋ねます。アシスタントは、会社が30日の返金期間を提供していると説明し、キャンセルプロセスを説明し、5営業日以内にお金が届くと約束します。実際には、会社は14日以内の返金のみを許可しています。アシスタントは虚偽の約束をでっち上げました。

LLMの文脈における幻覚とは、事実として不正確、捏造、またはモデルが使用すべき資料と矛盾する生成情報です。応答全体が間違っているわけではないかもしれませんが、小さな捏造された詳細が読者が頼りにする部分である可能性があります。

エラーは3つのカテゴリに分類されます：事実幻覚は現実と矛盾します；忠実性幻覚は回答と提供された証拠との関係に関するものです；捏造はポリシーセクションや研究論文のようなものを発明することを含みます。これらのカテゴリは重複します。

主要エンティティ：企業：ByteByteGo, Sentry | 人物：Serge

FAQ：LLMにおける幻覚とは何ですか？

幻覚とは、事実として不正確、捏造、またはモデルが使用すべき資料と矛盾する生成情報です。それは、それ以外は正しい応答の中の単一の捏造された詳細である可能性があります。