Ваш агент возвращает что-то странное. Это был промпт, тайм-аут вызова инструмента или ответ, который ваш код не смог разобрать? Без трассировок вы гадаете.

Клиент спрашивает нового ИИ-ассистента поддержки компании, имеет ли подписка, купленная 15 дней назад, право на возврат средств. Ассистент отвечает, объясняя, что компания предлагает 30-дневный период возврата, описывает процесс отмены и обещает, что деньги поступят в течение пяти рабочих дней. В действительности компания разрешает возврат только в течение 14 дней. Ассистент выдумал ложное обязательство из воздуха.

Галлюцинация в контексте LLM — это сгенерированная информация, которая фактически неверна, выдумана или не соответствует материалу, который модель должна использовать. Весь ответ может быть не ошибочным, но одна маленькая выдуманная деталь может быть той частью, на которую полагается читатель.

Ошибки делятся на три категории: фактическая галлюцинация противоречит реальности; галлюцинация верности касается отношения между ответом и предоставленными доказательствами; выдумка включает изобретение чего-то вроде раздела политики или исследовательской работы. Эти категории пересекаются.

Ключевые сущности: Компании: ByteByteGo, Sentry | Люди: Serge