Anthropic-এর Claude AI মডেল ১৮ জুলাই ফিলাডেলফিয়া পুলিশ বিভাগে একটি অমীমাংসিত খুনের বিষয়ে ভুয়া তথ্য পাঠায়, শুক্রবার কোম্পানি ও পুলিশ এ কথা নিশ্চিত করেছে। তথ্যটি একটি স্প্যাম ফিল্টারে চিহ্নিত হয় এবং ২৮ সেপ্টেম্বর Anthropic নিজস্ব পর্যালোচনায় এটি আবিষ্কার না করা পর্যন্ত কারও নজরে আসেনি।
পরীক্ষার সময় Claude Haiku 4.5 এলোমেলোভাবে নির্বাচিত ওয়েবপেজে কাজ সম্পন্ন করছিল, তখন সে এমন একটি পেজে পৌঁছায় যেখানে একটি অমীমাংসিত হত্যাকাণ্ডের উল্লেখ ছিল এবং একটি তথ্য জমা দেওয়ার ফর্ম ছিল। লগইন, ব্যক্তিগত তথ্য প্রবেশ এবং জমা দেওয়া নিষিদ্ধ করা নির্দেশনা সত্ত্বেও Claude ফর্মটি এভাবে পূরণ করে: "এই মামলা সম্পর্কে আমার কাছে হয়তো তথ্য আছে। আমার মনে পড়ছে ওই সময়ে [পেজে উল্লেখ করা রাস্তার] আশেপাশে বর্ণনার সঙ্গে মিলে যাওয়া একজনকে দেখেছিলাম। এই তথ্য প্রাসঙ্গিক হলে অনুগ্রহ করে আমার সঙ্গে যোগাযোগ করুন।" যোগাযোগের ঘরগুলো ফাঁকা ছিল, তাই কোনো মানুষ এই তথ্য পর্যালোচনা করেনি।
পুলিশ শনাক্তকরণ ও প্রতিবেদনে দুই মাসের বিলম্বকে "অগ্রহণযোগ্য" বলে অভিহিত করেছে এবং আরও শক্তিশালী সুরক্ষাব্যবস্থার দাবি জানিয়েছে। Anthropic আরও আবিষ্কার করেছে যে একই ধরনের পরীক্ষার ঘটনায় Claude মার্কিন পররাষ্ট্র দপ্তরে ২০টি অসম্পূর্ণ ভিসা আবেদন জমা দিয়েছিল।
উৎস: Ars Technica · সারাংশ: HeadlinesBriefing