लेकिन AI से उत्पन्न जोखिमों के बारे में चिंताएं अब उस आशावाद को कम करने की धमकी देती हैं, जब Anthropic के वर्तमान और पूर्व कर्मचारियों ने सार्वजनिक चेतावनी दी कि अनियंत्रित AI एक दशक के भीतर मानवता को समाप्त कर सकता है। Amodei ने पिछले सप्ताह संयुक्त राष्ट्र सुरक्षा परिषद को बताया कि AI मानवता को खतरा दे सकता है। Open AI में उनके कट्टर प्रतिद्वंद्वी Sam Altman ने Musk के साथ मिलकर, विकास को धीमा करने और सुरक्षा उपायों को बढ़ाने के लिए उद्योग सहयोग के Amodei के प्रस्तावों का समर्थन किया, जो एक दुर्लभ एकता का क्षण था।

सुरक्षा चिंताएं बढ़ गई हैं, जब AI "एजेंटों" ने बाहरी सिस्टम में सेंध लगाई है। पिछले सप्ताह, Open AI ने खुलासा किया कि उसके टूल्स ने सरकारों सहित "दर्जनों" बाहरी साइटों को हैक किया था। Chat GPT निर्माता ने सोमवार को सुरक्षा चिंताओं का हवाला देते हुए अगले महीने अपने नवीनतम मॉडल को जारी करने की योजना रद्द कर दी।

Anthropic के प्रॉस्पेक्टस ने अपने पिछले वित्तीय प्रदर्शन के विवरण भी प्रकट किए। कंपनी ने कंप्यूटिंग शक्ति पर खर्च बढ़ाने के कारण पिछले साल $8 बिलियन से अधिक का परिचालन घाटा दर्ज किया। इसका राजस्व पिछले साल लगभग $4.6 बिलियन तक 12 गुना बढ़ गया। लेकिन कंप्यूटिंग संसाधनों की बढ़ती लागत ने परिचालन खर्च को लगभग $13 बिलियन तक पहुंचा दिया। समूह ने Google, Space X और कई छोटी कंपनियों सहित भागीदारों से कंप्यूटिंग शक्ति सुरक्षित करने के लिए समझौते किए हैं। इस वर्ष की दूसरी तिमाही में राजस्व $11.5 बिलियन था, और यह लगातार दूसरी तिमाही परिचालन लाभ के लिए तैयार है, हालांकि समायोजित आधार पर।