আপনার এজেন্ট কিছু অদ্ভুত ফিরিয়ে দেয়। এটি কি প্রম্পট ছিল, একটি টুল কল যা টাইম আউট হয়েছে, বা একটি প্রতিক্রিয়া যা আপনার কোড পার্স করতে পারেনি? ট্রেস ছাড়া, আপনি অনুমান করছেন।

একজন গ্রাহক একটি কোম্পানির নতুন AI-ভিত্তিক সহায়তা সহকারীকে জিজ্ঞাসা করে যে 15 দিন আগে কেনা একটি সাবস্ক্রিপশন রিফান্ডের জন্য যোগ্য কিনা। সহকারী উত্তর দেয় যে কোম্পানি 30 দিন এর রিফান্ড উইন্ডো অফার করে, বাতিলকরণ প্রক্রিয়া বর্ণনা করে এবং প্রতিশ্রুতি দেয় যে টাকা পাঁচ কার্যদিবসের মধ্যে আসবে। বাস্তবে, কোম্পানি শুধুমাত্র 14 দিন এর মধ্যে রিফান্ড অনুমতি দেয়। সহকারী শূন্য থেকে একটি মিথ্যা প্রতিশ্রুতি তৈরি করেছে।

LLM-এর প্রসঙ্গে হ্যালুসিনেশন হল উৎপন্ন তথ্য যা বাস্তবিকভাবে ভুল, তৈরি করা, বা মডেলের ব্যবহার করার কথা যে উপাদানের সাথে অসামঞ্জস্যপূর্ণ। সম্পূর্ণ প্রতিক্রিয়া ভুল নাও হতে পারে, কিন্তু একটি ছোট তৈরি করা বিবরণ সেই অংশ হতে পারে যার উপর পাঠক নির্ভর করে।

ত্রুটিগুলি তিনটি বিভাগে পড়ে: একটি বাস্তবিক হ্যালুসিনেশন বাস্তবতার বিরোধিতা করে; একটি বিশ্বস্ততা হ্যালুসিনেশন উত্তর এবং এর সরবরাহকৃত প্রমাণের মধ্যে সম্পর্ক নিয়ে উদ্বিগ্ন; নির্মাণে নীতি বিভাগ বা গবেষণা পত্রের মতো কিছু উদ্ভাবন করা জড়িত। এই বিভাগগুলি ওভারল্যাপ করে।

মূল সত্তা: কোম্পানি: ByteByteGo, Sentry | ব্যক্তি: Serge