Agen Anda mengembalikan sesuatu yang aneh. Apakah itu prompt, panggilan alat yang timeout, atau respons yang tidak dapat diurai oleh kode Anda? Tanpa jejak, Anda hanya menebak.

Seorang pelanggan bertanya kepada asisten dukungan berbasis AI baru sebuah perusahaan apakah langganan yang dibeli 15 hari yang lalu memenuhi syarat untuk pengembalian dana. Asisten menjawab dengan menjelaskan bahwa perusahaan menawarkan jendela pengembalian dana 30 hari, menjelaskan proses pembatalan, dan berjanji bahwa uang akan tiba dalam lima hari kerja. Kenyataannya, perusahaan hanya mengizinkan pengembalian dana dalam 14 hari. Asisten telah menciptakan komitmen palsu dari udara tipis.

Halusinasi dalam konteks LLM adalah informasi yang dihasilkan yang secara faktual salah, diciptakan, atau tidak konsisten dengan materi yang seharusnya digunakan model. Seluruh respons mungkin tidak salah, tetapi detail kecil yang dibuat-buat mungkin menjadi bagian yang diandalkan pembaca.

Kesalahan terbagi dalam tiga kategori: halusinasi faktual bertentangan dengan kenyataan; halusinasi kesetiaan menyangkut hubungan antara jawaban dan bukti yang diberikan; fabrikasi melibatkan penemuan sesuatu seperti bagian kebijakan atau makalah penelitian. Kategori-kategori ini tumpang tindih.

Entitas kunci: Perusahaan: ByteByteGo, Sentry | Orang: Serge