কিছু বিপজ্জনক জীববিজ্ঞান গবেষণা বৈধ গবেষণার মতো দেখায়, যা AI সুরক্ষা ব্যবস্থাকে জটিল করে তোলে।

এই সপ্তাহের শুরুতে AI নিরাপত্তা নিয়ে একটি ঝড় শুরু হয় যখন Jacob Coxon কোম্পানি থেকে পদত্যাগ করেন, বলে যে কর্মীরা "আন্তরিকভাবে বিশ্বাস করে যে এটি [AI] এই দশকের শেষ নাগাদ আমাদের সবাইকে হত্যা করতে পারে।" এই বছরের শুরুতে Anthropic-এর Mythos-এর মতো উন্নত মডেল প্রকাশের সাথে উদ্বেগ বেড়ে যায়। Open AI-ও জুলাই মাসে সতর্কতা সৃষ্টি করে যখন এটি বলে যে তার মডেলগুলি স্বায়ত্তশাসিতভাবে AI গ্রুপ Hugging Face-এ হ্যাক করেছে।

AI নির্বাহী এবং জৈব নিরাপত্তা গবেষকদের মধ্যে একটি বর্ধমান ঐকমত্য রয়েছে যে মডেলগুলি আরও উন্নত হওয়ার সাথে সাথে জীববিজ্ঞানে এই প্রযুক্তির ব্যবহার সুরক্ষিত এবং নিয়ন্ত্রিত করা প্রয়োজন। বিশেষজ্ঞরা ক্রমবর্ধমানভাবে উদ্বিগ্ন যে AI সন্ত্রাসী গোষ্ঠী, রাষ্ট্রীয় অভিনেতা বা একক-নেকড়ে হামলাকারীদের দ্বারা জৈবিক অস্ত্র তৈরি, ভাইরাস তৈরি বা বিদ্যমান ক্ষতিকারক প্যাথোজেন ছড়াতে ব্যবহার করা যেতে পারে। তবে এমনকি যদি AI একটি তাত্ত্বিক জৈবিক অস্ত্র ডিজাইন করতে ব্যবহার করা যায়, সম্ভাব্য বাধা রয়ে যায়, যেমন বাস্তবে এটি তৈরি করার ক্ষমতা এবং এটি করার জন্য প্রয়োজনীয় সম্পদ।

সাইবার নিরাপত্তা নিরাপত্তা সমর্থকদের জন্য সবচেয়ে বড় উদ্বেগের মধ্যে একটি। Anthropic-এর তার প্রযুক্তির অপব্যবহারের রিপোর্টে "ব্যবহারকারীদের প্রতারণার জন্য ডিজাইন করা ভুয়া ডেটিং অ্যাপের নেটওয়ার্ক থেকে ভিন্নমতাবলম্বীদের চিহ্নিত ও নিরীক্ষণের জন্য নির্মিত নজরদারি সিস্টেম" সহ ঘটনাগুলির বিস্তারিত বর্ণনা দেওয়া হয়েছে। ল্যাবটি এই দাবির নতুন বিবরণও দিয়েছে যে চীনে অবস্থিত সাতটি ল্যাব, যার মধ্যে Moonshot এবং Deep Seek রয়েছে, ডিস্টিলেশন নামে পরিচিত একটি প্রক্রিয়ার মাধ্যমে তার প্রযুক্তি প্রতিলিপি করার চেষ্টা করেছে। Anthropic বলেছে যে এটি "আমাদের প্রতিরক্ষা এড়াতে এবং মার্কিন ফ্রন্টিয়ার মডেলগুলির ক্ষমতা সংগ্রহ করতে ক্রমবর্ধমান পরিশীলিত পদ্ধতি" সনাক্ত করেছে।

মূল সত্তা: কোম্পানি: Anthropic, Open AI, Hugging Face, Moonshot, Deep Seek, The Financial Times Ltd. | ব্যক্তি: Jacob Coxon, Michael Peel | স্থান: চীন, লন্ডন