لكن المخاوف بشأن المخاطر التي يشكلها الذكاء الاصطناعي تهدد الآن بتخفيف هذا التفاؤل بعد أن خرج موظفو Anthropic الحاليون والسابقون بتحذيرات عامة من أن الذكاء الاصطناعي الجامح قد ينهي البشرية في غضون عقد من الزمن. أخبر Amodei مجلس الأمن التابع للأمم المتحدة الأسبوع الماضي أن الذكاء الاصطناعي قد يهدد البشرية. أيد منافسه اللدود في Open AI، Sam Altman، إلى جانب Musk، مقترحات Amodei للتعاون الصناعي لإبطاء التطوير وتعزيز تدابير السلامة، في لحظة نادرة من الوحدة.

زادت المخاوف المتعلقة بالسلامة بعد سلسلة من حوادث الأمن السيبراني البارزة التي اخترقت فيها "وكلاء" الذكاء الاصطناعي أنظمة خارجية. الأسبوع الماضي، كشفت Open AI أن أدواتها اخترقت "عشرات" المواقع الخارجية، بما في ذلك الحكومات. ألغت شركة Chat GPT يوم الاثنين خطط إصدار أحدث نموذج لها الشهر المقبل، مستشهدة بمخاوف تتعلق بالسلامة.

كما كشفت نشرة الإصدار الخاصة بـ Anthropic عن تفاصيل أدائها المالي السابق. سجلت الشركة خسارة تشغيلية تزيد عن 8 مليارات دولار العام الماضي مع زيادة الإنفاق على قوة الحوسبة. قفزت إيراداتها 12 ضعفًا إلى ما يقرب من 4.6 مليار دولار العام الماضي. لكن التكاليف المتزايدة لموارد الحوسبة دفعت النفقات التشغيلية إلى ما يقرب من 13 مليار دولار. أبرمت المجموعة صفقات لتأمين قوة الحوسبة من شركاء بما في ذلك Google وSpace X وعدة شركات أصغر. بلغت الإيرادات في الربع الثاني من هذا العام 11.5 مليار دولار، وهي في طريقها لتحقيق ربح تشغيلي للربع الثاني على التوالي، وإن كان على أساس معدل.