HeadlinesBriefing favicon HeadlinesBriefing.com

এআই হ্যালুসিনেশন কادت আক্রমণ করত চীনা জাহাজে

Ars Technica •
×

সিএনএন-এর অনুযায়ী, আমেরিকান সেনাবাহিনী এআই সহায়তায় তৈরি একটি "পুরোপুরি মিথ্যা" গুপ্তচর রিপোর্টের ভিত্তিতে একটি চীনা জাহাজে আক্রমণ করার কাছাকাছি পৌঁছেছিল। ভুল রিপোর্টটি, যুক্তরাষ্ট্রের স্পেশাল অপারেশনস কমান্ডের একজন বিশ্লেষক দ্বারা জমা দেওয়া হয়েছিল, দাবি করেছিল যে চীনা জাহাজটি মধ্যপ্রাচ্য দিয়ে পারমাণবিক অস্ত্র প্রোগ্রামের উপাদান পরিবহন করছিল। ঘটনার সাথে পরিচিত চারজন উৎস এই প্রায় ঘটনাটি নিশ্চিত করেছেন। আমেরিকা হাওয়াী সহায়তায় জাহাজটিকে আটকে রেখে ওপর চড়ার প্রস্তুতি নিচ্ছিল, তার আগে যে বিশ্লেষণে ব্যবহৃত একটি চ্যাটবট "জাহাজটি কী লাদান করছিল তা ভুলভাবে শনাক্ত করেছিল"। একজন উৎস সিএনএন-কে বললেন যে এআই-চালিত এই ব্যর্থতা "প্রায় একটি যুদ্ধ শুরু করেছিল"। বিশ্লেষক জাহাজের ম্যানিফেস্ট সংক্রান্ত গুপ্তচর রিপোর্ট বিশ্লেষণ করার জন্য একটি চ্যাটবট ব্যবহার করেছিলেন, যা ওপেন-সোর্স গুপ্তচরকে গোপন সিগন্যাল গুপ্তচরের সাথে ফিউজ করেছিল। ফলস্বরূপ রিপোর্টটি প্রায় একটি ধ্বংসাত্মক ঘটনাক্রম শুরু করেছিল। এই ঘটনা পেশাদার রিপোর্টিংকে আন্ডারমাইন করার এআই হ্যালুসিনেশনের অধিক পরিণতিমূলক উদাহরণের একটি। যেহেতু "হ্যালুসিনেশন" ২০২৩ সালে কেমব্রিজ ডিকশনারির বছরের শব্দ হয়ে উঠেছে, তখন থেকে পত্রকার, গবেষক, বিচারক, ডাক্তার এবং পুলিশ ডিপার্টমেন্টসহ অনেক পেশাদাররা মিথ্যা তথ্য তৈরি করার এআই টুলস দ্বারা ভুল đườngে নিয়ে যাওয়া হয়েছে। হ্যালুসিনেশন রোধের প্রচেষ্টার باয়जूद, গবেষকরা মনে করেন বড় ভাষা মডেলগুলিকে মিথ্যা কন্টেন্ট তৈরি করতে থেকে পুরোপুরি রোধ করা অসম্ভব হতে পারে। প্রতিরক্ষা বিভাগ gầnে সিস্টেম জুড়ে ডেটা এআই শোষণের জন্য উপলব্ধ করার জন্য একটি "এআই ত্বরণ কৌশল" চালু করেছে।