Why Do LLMs Lie?

Your agent returns something odd. Was it the prompt, a tool call that timed out, or a response your code could not parse? Without traces, you are guessing.

A customer asks a company’s new AI-based support assistant whether a subscription purchased 15 days ago qualifies for a refund. The assistant responds by explaining that the company offers a 30-day refund window, describes the cancellation process, and promises that the money will arrive within five working days. In reality, the company only allows refunds within 14 days. The assistant has invented a fake commitment out of thin air.

Hallucination in the context of LLMs is generated information that is factually incorrect, invented, or inconsistent with the material the model is supposed to use. The entire response may not be wrong, but a small fabricated detail may be the part the reader relies upon.

Errors fall into three categories: a factual hallucination contradicts reality; a faithfulness hallucination concerns the relationship between the answer and its supplied evidence; fabrication involves inventing something like a policy section or a research paper. These categories overlap.

يعيد وكيلك شيئًا غريبًا. هل كان المطالبة، أو استدعاء أداة انتهت صلاحيته، أو استجابة لم يتمكن الكود الخاص بك من تحليلها؟ بدون تتبعات، أنت تخمن.

يسأل عميل مساعد الدعم الجديد القائم على AI لشركة ما إذا كان الاشتراك الذي تم شراؤه قبل 15 يومًا مؤهلاً لاسترداد الأموال. يرد المساعد بشرح أن الشركة تقدم نافذة استرداد لمدة 30 يومًا، ويصف عملية الإلغاء، ويعد بأن الأموال ستصل في غضون خمسة أيام عمل. في الواقع، تسمح الشركة فقط باسترداد الأموال في غضون 14 يومًا. لقد اختلق المساعد التزامًا مزيفًا من العدم.

الهلوسة في سياق نماذج اللغات الكبيرة هي معلومات مولدة غير صحيحة واقعيًا، أو مختلقة، أو غير متسقة مع المواد التي من المفترض أن يستخدمها النموذج. قد لا تكون الاستجابة بأكملها خاطئة، ولكن تفصيلًا صغيرًا مختلقًا قد يكون الجزء الذي يعتمد عليه القارئ.

تنقسم الأخطاء إلى ثلاث فئات: الهلوسة الواقعية تتعارض مع الواقع؛ هلوسة الإخلاص تتعلق بالعلاقة بين الإجابة والأدلة المقدمة؛ الاختلاق يتضمن اختراع شيء مثل قسم سياسة أو ورقة بحثية. تتداخل هذه الفئات.

الكيانات الرئيسية: الشركات: ByteByteGo, Sentry | الأشخاص: Serge

الأسئلة الشائعة: ما هي الهلوسة في LLM؟

الهلوسة هي معلومات مولدة غير صحيحة واقعيًا، أو مختلقة، أو غير متسقة مع المواد التي من المفترض أن يستخدمها النموذج. يمكن أن تكون تفصيلًا واحدًا مختلقًا داخل استجابة صحيحة بخلاف ذلك.

আপনার এজেন্ট কিছু অদ্ভুত ফিরিয়ে দেয়। এটি কি প্রম্পট ছিল, একটি টুল কল যা টাইম আউট হয়েছে, বা একটি প্রতিক্রিয়া যা আপনার কোড পার্স করতে পারেনি? ট্রেস ছাড়া, আপনি অনুমান করছেন।

একজন গ্রাহক একটি কোম্পানির নতুন AI-ভিত্তিক সহায়তা সহকারীকে জিজ্ঞাসা করে যে 15 দিন আগে কেনা একটি সাবস্ক্রিপশন রিফান্ডের জন্য যোগ্য কিনা। সহকারী উত্তর দেয় যে কোম্পানি 30 দিন এর রিফান্ড উইন্ডো অফার করে, বাতিলকরণ প্রক্রিয়া বর্ণনা করে এবং প্রতিশ্রুতি দেয় যে টাকা পাঁচ কার্যদিবসের মধ্যে আসবে। বাস্তবে, কোম্পানি শুধুমাত্র 14 দিন এর মধ্যে রিফান্ড অনুমতি দেয়। সহকারী শূন্য থেকে একটি মিথ্যা প্রতিশ্রুতি তৈরি করেছে।

LLM-এর প্রসঙ্গে হ্যালুসিনেশন হল উৎপন্ন তথ্য যা বাস্তবিকভাবে ভুল, তৈরি করা, বা মডেলের ব্যবহার করার কথা যে উপাদানের সাথে অসামঞ্জস্যপূর্ণ। সম্পূর্ণ প্রতিক্রিয়া ভুল নাও হতে পারে, কিন্তু একটি ছোট তৈরি করা বিবরণ সেই অংশ হতে পারে যার উপর পাঠক নির্ভর করে।

ত্রুটিগুলি তিনটি বিভাগে পড়ে: একটি বাস্তবিক হ্যালুসিনেশন বাস্তবতার বিরোধিতা করে; একটি বিশ্বস্ততা হ্যালুসিনেশন উত্তর এবং এর সরবরাহকৃত প্রমাণের মধ্যে সম্পর্ক নিয়ে উদ্বিগ্ন; নির্মাণে নীতি বিভাগ বা গবেষণা পত্রের মতো কিছু উদ্ভাবন করা জড়িত। এই বিভাগগুলি ওভারল্যাপ করে।

মূল সত্তা: কোম্পানি: ByteByteGo, Sentry | ব্যক্তি: Serge

Ihr Agent gibt etwas Seltsames zurück. War es der Prompt, ein Tool-Aufruf, der abgelaufen ist, oder eine Antwort, die Ihr Code nicht parsen konnte? Ohne Ablaufverfolgungen raten Sie nur.

Ein Kunde fragt den neuen KI-basierten Support-Assistenten eines Unternehmens, ob ein vor 15 Tagen gekauftes Abonnement für eine Rückerstattung in Frage kommt. Der Assistent antwortet, indem er erklärt, dass das Unternehmen ein 30-tägiges Rückerstattungsfenster anbietet, den Kündigungsprozess beschreibt und verspricht, dass das Geld innerhalb von fünf Werktagen eintreffen wird. In Wirklichkeit erlaubt das Unternehmen Rückerstattungen nur innerhalb von 14 Tagen. Der Assistent hat eine falsche Zusage aus dem Nichts erfunden.

Halluzination im Kontext von LLMs sind generierte Informationen, die sachlich falsch, erfunden oder inkonsistent mit dem Material sind, das das Modell verwenden soll. Die gesamte Antwort mag nicht falsch sein, aber ein kleines erfundenes Detail kann der Teil sein, auf den sich der Leser verlässt.

Fehler fallen in drei Kategorien: eine faktische Halluzination widerspricht der Realität; eine Treue-Halluzination betrifft die Beziehung zwischen der Antwort und den bereitgestellten Beweisen; Erfindung beinhaltet das Erfinden von etwas wie einem Richtlinienabschnitt oder einem Forschungspapier. Diese Kategorien überschneiden sich.

Schlüsselentitäten: Unternehmen: ByteByteGo, Sentry | Personen: Serge

Tu agente devuelve algo extraño. ¿Fue el prompt, una llamada a herramienta que expiró, o una respuesta que tu código no pudo analizar? Sin trazas, estás adivinando.

Un cliente pregunta al nuevo asistente de soporte basado en IA de una empresa si una suscripción comprada hace 15 días califica para un reembolso. El asistente responde explicando que la empresa ofrece una ventana de reembolso de 30 días, describe el proceso de cancelación y promete que el dinero llegará en cinco días hábiles. En realidad, la empresa solo permite reembolsos dentro de 14 días. El asistente ha inventado un compromiso falso de la nada.

La alucinación en el contexto de los LLM es información generada que es factualmente incorrecta, inventada o inconsistente con el material que se supone que el modelo debe usar. Toda la respuesta puede no estar equivocada, pero un pequeño detalle fabricado puede ser la parte en la que el lector confía.

Los errores caen en tres categorías: una alucinación factual contradice la realidad; una alucinación de fidelidad se refiere a la relación entre la respuesta y la evidencia proporcionada; la fabricación implica inventar algo como una sección de política o un artículo de investigación. Estas categorías se superponen.

Entidades clave: Empresas: ByteByteGo, Sentry | Personas: Serge

Votre agent renvoie quelque chose d'étrange. Était-ce l'invite, un appel d'outil qui a expiré, ou une réponse que votre code n'a pas pu analyser ? Sans traces, vous devinez.

Un client demande au nouvel assistant de support basé sur l'IA d'une entreprise si un abonnement acheté il y a 15 jours est éligible à un remboursement. L'assistant répond en expliquant que l'entreprise offre une fenêtre de remboursement de 30 jours, décrit le processus d'annulation et promet que l'argent arrivera dans les cinq jours ouvrables. En réalité, l'entreprise n'autorise les remboursements que dans les 14 jours. L'assistant a inventé un engagement fictif de toutes pièces.

L'hallucination dans le contexte des LLM est une information générée qui est factuellement incorrecte, inventée ou incohérente avec le matériel que le modèle est censé utiliser. L'ensemble de la réponse peut ne pas être erroné, mais un petit détail fabriqué peut être la partie sur laquelle le lecteur s'appuie.

Les erreurs se répartissent en trois catégories : une hallucination factuelle contredit la réalité ; une hallucination de fidélité concerne la relation entre la réponse et les preuves fournies ; la fabrication implique l'invention de quelque chose comme une section de politique ou un article de recherche. Ces catégories se chevauchent.

Entités clés : Entreprises : ByteByteGo, Sentry | Personnes : Serge

FAQ : Qu'est-ce qu'une hallucination dans un LLM ?

Une hallucination est une information générée qui est factuellement incorrecte, inventée ou incohérente avec le matériel que le modèle est censé utiliser. Il peut s'agir d'un seul détail fabriqué au sein d'une réponse par ailleurs correcte.

आपका एजेंट कुछ अजीब लौटाता है। क्या यह प्रॉम्प्ट था, एक टूल कॉल जो टाइम आउट हो गया, या एक प्रतिक्रिया जिसे आपका कोड पार्स नहीं कर सका? ट्रेस के बिना, आप अनुमान लगा रहे हैं।

एक ग्राहक कंपनी के नए AI-आधारित सहायता सहायक से पूछता है कि क्या 15 दिन पहले खरीदी गई सदस्यता रिफंड के लिए योग्य है। सहायक जवाब देता है कि कंपनी 30 दिन की रिफंड विंडो प्रदान करती है, रद्दीकरण प्रक्रिया का वर्णन करता है, और वादा करता है कि पैसा पांच कार्य दिवसों के भीतर आ जाएगा। वास्तव में, कंपनी केवल 14 दिन के भीतर रिफंड की अनुमति देती है। सहायक ने हवा से एक झूठी प्रतिबद्धता गढ़ ली है।

LLM के संदर्भ में मतिभ्रम उत्पन्न जानकारी है जो तथ्यात्मक रूप से गलत, गढ़ी गई, या उस सामग्री के साथ असंगत है जिसका उपयोग मॉडल को करना चाहिए। पूरी प्रतिक्रिया गलत नहीं हो सकती है, लेकिन एक छोटा गढ़ा हुआ विवरण वह हिस्सा हो सकता है जिस पर पाठक भरोसा करता है।

त्रुटियां तीन श्रेणियों में आती हैं: एक तथ्यात्मक मतिभ्रम वास्तविकता का खंडन करता है; एक निष्ठा मतिभ्रम उत्तर और उसके प्रदान किए गए साक्ष्य के बीच संबंध से संबंधित है; निर्माण में नीति अनुभाग या शोध पत्र जैसी किसी चीज़ का आविष्कार करना शामिल है। ये श्रेणियां ओवरलैप होती हैं।

मुख्य संस्थाएं: कंपनियां: ByteByteGo, Sentry | लोग: Serge

Agen Anda mengembalikan sesuatu yang aneh. Apakah itu prompt, panggilan alat yang timeout, atau respons yang tidak dapat diurai oleh kode Anda? Tanpa jejak, Anda hanya menebak.

Seorang pelanggan bertanya kepada asisten dukungan berbasis AI baru sebuah perusahaan apakah langganan yang dibeli 15 hari yang lalu memenuhi syarat untuk pengembalian dana. Asisten menjawab dengan menjelaskan bahwa perusahaan menawarkan jendela pengembalian dana 30 hari, menjelaskan proses pembatalan, dan berjanji bahwa uang akan tiba dalam lima hari kerja. Kenyataannya, perusahaan hanya mengizinkan pengembalian dana dalam 14 hari. Asisten telah menciptakan komitmen palsu dari udara tipis.

Halusinasi dalam konteks LLM adalah informasi yang dihasilkan yang secara faktual salah, diciptakan, atau tidak konsisten dengan materi yang seharusnya digunakan model. Seluruh respons mungkin tidak salah, tetapi detail kecil yang dibuat-buat mungkin menjadi bagian yang diandalkan pembaca.

Kesalahan terbagi dalam tiga kategori: halusinasi faktual bertentangan dengan kenyataan; halusinasi kesetiaan menyangkut hubungan antara jawaban dan bukti yang diberikan; fabrikasi melibatkan penemuan sesuatu seperti bagian kebijakan atau makalah penelitian. Kategori-kategori ini tumpang tindih.

Entitas kunci: Perusahaan: ByteByteGo, Sentry | Orang: Serge

エージェントが奇妙なものを返します。プロンプト、タイムアウトしたツールコール、またはコードが解析できなかった応答でしたか？トレースがなければ、推測することになります。

顧客が会社の新しいAIベースのサポートアシスタントに、15日前に購入したサブスクリプションが返金の対象になるかどうかを尋ねます。アシスタントは、会社が30日の返金期間を提供していると説明し、キャンセルプロセスを説明し、5営業日以内にお金が届くと約束します。実際には、会社は14日以内の返金のみを許可しています。アシスタントは虚偽の約束をでっち上げました。

LLMの文脈における幻覚とは、事実として不正確、捏造、またはモデルが使用すべき資料と矛盾する生成情報です。応答全体が間違っているわけではないかもしれませんが、小さな捏造された詳細が読者が頼りにする部分である可能性があります。

エラーは3つのカテゴリに分類されます：事実幻覚は現実と矛盾します；忠実性幻覚は回答と提供された証拠との関係に関するものです；捏造はポリシーセクションや研究論文のようなものを発明することを含みます。これらのカテゴリは重複します。

主要エンティティ：企業：ByteByteGo, Sentry | 人物：Serge

FAQ：LLMにおける幻覚とは何ですか？

幻覚とは、事実として不正確、捏造、またはモデルが使用すべき資料と矛盾する生成情報です。それは、それ以外は正しい応答の中の単一の捏造された詳細である可能性があります。

Seu agente retorna algo estranho. Foi o prompt, uma chamada de ferramenta que expirou ou uma resposta que seu código não conseguiu analisar? Sem rastros, você está adivinhando.

Um cliente pergunta ao novo assistente de suporte baseado em IA de uma empresa se uma assinatura comprada há 15 dias se qualifica para um reembolso. O assistente responde explicando que a empresa oferece uma janela de reembolso de 30 dias, descreve o processo de cancelamento e promete que o dinheiro chegará em cinco dias úteis. Na realidade, a empresa só permite reembolsos dentro de 14 dias. O assistente inventou um compromisso falso do nada.

Alucinação no contexto de LLMs é informação gerada que é factualmente incorreta, inventada ou inconsistente com o material que o modelo deve usar. A resposta inteira pode não estar errada, mas um pequeno detalhe fabricado pode ser a parte na qual o leitor confia.

Os erros se enquadram em três categorias: uma alucinação factual contradiz a realidade; uma alucinação de fidelidade diz respeito à relação entre a resposta e a evidência fornecida; a fabricação envolve inventar algo como uma seção de política ou um artigo de pesquisa. Essas categorias se sobrepõem.

Entidades-chave: Empresas: ByteByteGo, Sentry | Pessoas: Serge

Ваш агент возвращает что-то странное. Это был промпт, тайм-аут вызова инструмента или ответ, который ваш код не смог разобрать? Без трассировок вы гадаете.

Клиент спрашивает нового ИИ-ассистента поддержки компании, имеет ли подписка, купленная 15 дней назад, право на возврат средств. Ассистент отвечает, объясняя, что компания предлагает 30-дневный период возврата, описывает процесс отмены и обещает, что деньги поступят в течение пяти рабочих дней. В действительности компания разрешает возврат только в течение 14 дней. Ассистент выдумал ложное обязательство из воздуха.

Галлюцинация в контексте LLM — это сгенерированная информация, которая фактически неверна, выдумана или не соответствует материалу, который модель должна использовать. Весь ответ может быть не ошибочным, но одна маленькая выдуманная деталь может быть той частью, на которую полагается читатель.

Ошибки делятся на три категории: фактическая галлюцинация противоречит реальности; галлюцинация верности касается отношения между ответом и предоставленными доказательствами; выдумка включает изобретение чего-то вроде раздела политики или исследовательской работы. Эти категории пересекаются.

Ключевые сущности: Компании: ByteByteGo, Sentry | Люди: Serge

你的代理返回了一些奇怪的结果。是提示词的问题、工具调用超时，还是你的代码无法解析的响应？没有追踪，你只能猜测。

一位客户询问公司新的人工智能支持助手，15天前购买的订阅是否符合退款条件。助手回应说公司提供30天退款窗口，描述了取消流程，并承诺款项将在五个工作日内到账。实际上，公司只允许14天内退款。助手凭空编造了一个虚假承诺。

在LLM的背景下，幻觉是指生成的信息在事实上不正确、被编造或与模型应该使用的材料不一致。整个响应可能并非错误，但一个小的编造细节可能是读者所依赖的部分。

错误分为三类：事实幻觉与现实相矛盾；忠实性幻觉涉及答案与其提供的证据之间的关系；捏造涉及编造某些东西，如政策部分或研究论文。这些类别有重叠。

关键实体：公司：ByteByteGo, Sentry | 人物：Serge

FAQ：什么是LLM中的幻觉？

幻觉是指生成的信息在事实上不正确、被编造或与模型应该使用的材料不一致。它可能是一个原本正确的响应中的单个编造细节。