تخطط أنثروبك لتحذير المستثمرين المحتملين في طرحها العام الأولي (IPO) من أن الذكاء الاصطناعي المتقدم قد يمثل 'مخاطر كارثية أو وجودية للبشرية'، إنذار استثنائي من شركة تسعى للربح من نفس التكنولوجيا. prospectus الطرح العام الأولي للشركة، reviewed من قبل رويترز، يبرز المخاطر المرتبطة بنماذج الذكاء الاصطناعي الخاصة بها، والتي قالت إنها قد تعرض 'سلوكيات للحفاظ على الذات'، بما في ذلك محاولات 'مقاومة الإيقاف'، 'إخفاء أو manipulation المعلومات' وسلوك 'يشبه الابتزاز'. وأنثروبك أبرزت الإمكانات التحولية للذكاء الاصطناعي، بمستوى موازي للصناعية والكهرباء، والأضرار不可逆ية التي قد تسبب إذا تم سوء التعامل معها. باحث سلامة أنثروبك، Evan Hubinger، قدر احتمال أكبر من 10% أن تقتل الذكاء الاصطناعي البشر خلال العقد القادم، موافقاً على sentimento من قبل زميل سابق، Jacob Coxon. الشركة، التي وضعت نفسها على أنها مختبر للذكاء الاصطناعي يركز على السلامة، devoted حوالي 80 صفحة من جسم الـ 261 صفحة الرئيسي من ملف الاكتتاب العام إلى توضيح عوامل الخطر، تقريبًا ضعف الـ 48 صفحة التي استخدمتها لوصف أعمالها. للمقارنة، Space X، التي تمتلك x AI، devoted حوالي 38 من جسم الـ 277 صفحة الرئيسي من ملف الاكتتاب العام إلى عوامل الخطر. وقالت أنثروبك أن عائدات استثماراتها في السلامة غير واضحة. لم تكشف الشركة في الملف عن مقدار ما تنفقه على such بحوث. في سبتمبر الماضي، قالت أنثروبك إن حوالي 6% من قوة الحوسبة التي استخدمتها لأبحاث الذكاء الاصطناعي ذهبت إلى عمل السلامة في أسبوع نموذج في يوليو. الشركة، صانعة نماذج Claude للذكاء الاصطناعي، وصفت جهود السلامة بأنها 'مكثفة للموارد' وقالت إنها يجب أن تقسم مواردها المحدودة بين قوة الحوسب، والمواهب المكلفة للذكاء الاصطناعي، والسلامة.