প্রধান AI কোম্পানির নেতারা তাদের প্রযুক্তির বিপদ সম্পর্কে সতর্কতা জানাচ্ছেন। Anthropic-এর CEO Dario Amodei গভীর ঝুঁকির সতর্কতা দিয়েছেন এবং ধীরগতির অগ্রগতির আহ্বান করেছেন, در حالی که OpenAI-এর CEO Sam Altman "সীমান্ত নিয়ন্ত্রণ" করার প্রয়োজনীয়তাকে সমর্থন করেছেন। Anthropic-এর সাবেক গবেষক Jacob Coxon এবং সহকর্মী Evan Hubinger সর্বজনীনভাবে সতর্ক করেছেন যে AI মৃত্যুঘাতী জৈব অস্ত্র তৈরিতে সহায়তা করতে পারে, যার মধ্যে জিন-লক্ষ্যবস্তু ভাইরাস, ফসল-নাশক কবক, এবং অদৃশ্য বিষাক্ত পদার্থ রয়েছে। Collaborations Pharmaceuticals-এর ২০২২ সালের একটি গবেষণা দেখিয়েছে কীভাবে একটি AI আণব জেনারেটর ছয় ঘন্টার কম সময়ে ৪০,০০০টি সম্ভাব্য রাসায়নিক যুদ্ধ এজেন্ট তৈরি করেছে, जिनमें से কিছু পরিচিত স্নায়ু এজেন্টের চেয়ে বেশি বিষাক্ত। ১৯৯০-এর দশক থেকে জৈব প্রযুক্তির দুরупযোগ ট্র্যাক করে আস रहे স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের জৈব নীতিশাস্ত্রের অধ্যাপক David Magnus বলেন, হুমকিটি নাটকীয়ভাবে বেড়েছে। বড় ভাষা মডেলগুলি এখন বিস্তারিত পরীক্ষামূলক নির্দেশিকা প্রদান করছে, এবং DIY জৈব প্রযুক্তি প্রবেশের বাধা কমিয়েছে। বিদ্যমান সুরক্ষা উপায়—DNA সরবরাহকারীদের স্ক্রিনিং, রেড- এবং ব্লু-টিমিং পর্যালোচনা, এবং AI টুল সমন্বয়—চাকচকে নন। Anthropic gần đây তার মডেলগুলিকে ভাইরাস, বার্ড ফ্লু, এবং বিষের অ্যাটলাস উন্নত করার জন্য দুরুপযোগের চেষ্টা রিপোর্ট করেছে, যা ডেভেলপাররা এবং দুর্ভাবনামূলক 행위কারীদের মধ্যে চলমান বিড়াল-ইন্দুর খেলাকে হাইলাইট করে।