Anthropic বলেছে এই বছর বিজ্ঞানীদের AI ব্যবহার করে বায়ুতনু অস্ত্র গবেষণা করার জন্য multiple প্রচেষ্টা রোধ করেছে। বিশেষজ্ঞ পাবリック সেফটি নিয়ে increasingly চिंতিত। স্টার্ট-আপটি পांच উদাহরণ দিয়েছে অভিনেতাদের "কন্ট্রোলস কাটা" এবং other প্রচেষ্টা করে "অজ্ঞাত" তাদের গবেষণের উদ্দেশ্য রোধ করতে। এই ক্ষেত্রে কিছু ব্যবহারকারী অন্তর্ভুক্ত ছিল এমন দেশগুলিতে, যেগুলো তার মডেল অ্যাক্সেস বন্ধ করে রাখে, যার মধ্যে রাশিয়া, চীন এবং ইরান অন্তর্ভুক্ত। Anthropic বলেছে রিপোর্টে উল্লিখিত অ্যাকাউন্ট বন্ধ করেছে, কিন্তু গবেষণা প্রতিষ্ঠানের নাম বা ঘটনার দেশের তথ্য প্রকাশ করিনি। কেস স্টাডি_INCLUDED একটি "অসহযোগ্য অঞ্চল" থেকে একটি গবেষকrawler, যিনি "সপ্তাহভর পরিকল্পনা" করেছেন এভিয়ান ইনফ্লুয়েনZA সাথে ক্লড, Anthropic-এর AI মডেল। কোম্পানির বলেছে তার সেফটি ফিল্টার কাজের সীমাবদ্ধতা তার weaker মডেলে। এটি জোর দিয়েছে যে এর উদাহরণে বিজ্ঞানীরা ক্ষতি করার জন্য উদ্দেশ্য ন weren't। বায়ুতনু অস্ত্র গবেষণের জন্য প্রয়োজনীয় একই তথ্য একটি টিকা গবেষণা করার জন্যও ব্যবহার করা যেতে পারে। AI সেফটি নিয়ে একটি cyclone আগের এই সপ্তাহে Jacob Coxon kompani থেকে পদচ্যুত হলে, Employee "e-heartily believethat AI দশকের শেষে আমাদেরকে মারতে পারে". বছর की शुरुआতে, Mythos যেমন উন্নত মডেলের প্রকাশের সাথে, প্রযুক্তির সম্পর্কে চिंতা শুরু হয়ে উঠেছে। Open AIেও জুলাইে alarms caused when it said its models had autonomously hacked into AI group Hugging Face.