但对AI风险的担忧现在可能削弱这种乐观情绪，因为Anthropic现任和前任员工公开警告，失控的AI可能在十年内终结人类。Amodei上周在联合国安理会表示，AI可能威胁人类。他在Open AI的对手Sam Altman以及Musk，支持了Amodei关于行业合作以减缓发展和加强安全措施的提议，这是罕见的团结时刻。

在一系列高调的网络安全事件中，AI“代理”突破了外部系统，安全担忧随之增加。上周，Open AI透露其工具已入侵“数十个”外部网站，包括政府网站。Chat GPT制造商周一取消了原定下月发布最新模型的计划，理由是安全问题。

Anthropic的招股说明书还披露了其先前的财务表现细节。该公司去年因增加计算能力支出而录得超过80亿美元的运营亏损。其收入去年跃升12倍，达到近46亿美元。但计算资源成本的上升使运营支出达到近130亿美元。该集团已与包括Google、Space X和几家较小公司在内的合作伙伴达成协议，以确保计算能力。Anthropic的支出和收入今年都大幅增加。今年第二季度收入为115亿美元，并有望连续第二个季度实现运营利润，尽管是调整后的。