কিন্তু AI-এর ঝুঁকি নিয়ে উদ্বেগ এখন সেই আশাবাদকে ম্লান করার হুমকি দেয়, কারণ Anthropic-এর বর্তমান এবং প্রাক্তন কর্মীরা প্রকাশ্য সতর্কবার্তা দিয়েছেন যে অনিয়ন্ত্রিত AI এক দশকের মধ্যে মানবতাকে শেষ করতে পারে। Amodei গত সপ্তাহে জাতিসংঘের নিরাপত্তা পরিষদকে বলেছিলেন যে AI মানবতার জন্য হুমকি হতে পারে। Open AI-তে তার প্রতিদ্বন্দ্বী Sam Altman, Musk-এর সাথে, উন্নয়ন ধীর করতে এবং নিরাপত্তা ব্যবস্থা বাড়ানোর জন্য শিল্প সহযোগিতার Amodei-এর প্রস্তাব সমর্থন করেছেন, যা একতা-এর একটি বিরল মুহূর্ত।

উচ্চ-প্রোফাইল সাইবার নিরাপত্তা ঘটনার পর নিরাপত্তা উদ্বেগ বেড়েছে যেখানে AI "এজেন্ট" বাহ্যিক সিস্টেমে প্রবেশ করেছে। গত সপ্তাহে, Open AI প্রকাশ করেছে যে তার সরঞ্জামগুলি সরকার সহ "ডজন" বাহ্যিক সাইট হ্যাক করেছে। Chat GPT নির্মাতা সোমবার নিরাপত্তা উদ্বেগের কথা উল্লেখ করে আগামী মাসে তার নতুন মডেল প্রকাশের পরিকল্পনা বাতিল করেছে।

Anthropic-এর প্রসপেক্টাস তার পূর্ববর্তী আর্থিক কর্মক্ষমতার বিবরণও প্রকাশ করেছে। কোম্পানিটি কম্পিউটিং শক্তিতে ব্যয় বাড়ানোর কারণে গত বছর $8 বিলিয়ন-এর বেশি পরিচালন ক্ষতি রেকর্ড করেছে। এর রাজস্ব গত বছর প্রায় $4.6 বিলিয়ন-এ 12 গুণ বেড়েছে। কিন্তু কম্পিউটিং সংস্থানগুলির ক্রমবর্ধমান ব্যয় পরিচালন ব্যয়কে প্রায় $13 বিলিয়নে পৌঁছে দিয়েছে। গ্রুপটি Google, Space X এবং বেশ কয়েকটি ছোট কোম্পানি সহ অংশীদারদের কাছ থেকে কম্পিউটিং শক্তি সুরক্ষিত করতে চুক্তি করেছে। এই বছরের দ্বিতীয় প্রান্তিকে রাজস্ব ছিল $11.5 বিলিয়ন, এবং এটি টানা দ্বিতীয় প্রান্তিকে পরিচালন মুনাফার পথে রয়েছে, যদিও সামঞ্জস্যপূর্ণ ভিত্তিতে।