Но опасения по поводу рисков, связанных с ИИ, теперь угрожают ослабить этот оптимизм после того, как нынешние и бывшие сотрудники Anthropic выступили с публичными предупреждениями о том, что неконтролируемый ИИ может покончить с человечеством в течение десятилетия. Amodei заявил в прошлую неделю Совету Безопасности ООН, что ИИ может угрожать человечеству. Его заклятый соперник в Open AI, Сэм Альтман, вместе с Маском, поддержали предложения Amodei о сотрудничестве в отрасли для замедления разработки и усиления мер безопасности, что стало редким моментом единства.

Опасения по поводу безопасности усилились после серии громких инцидентов в области кибербезопасности, в которых «агенты» ИИ взломали внешние системы. На прошлой неделе Open AI раскрыла, что её инструменты взломали «десятки» внешних сайтов, включая правительственные. Производитель Chat GPT в понедельник отменил планы по выпуску своей новейшей модели в следующем месяце, сославшись на проблемы безопасности.

Проспект Anthropic также раскрыл детали её предыдущих финансовых показателей. Компания зафиксировала операционный убыток более 8 миллиардов долларов в прошлом году, увеличив расходы на вычислительные мощности. Её выручка выросла в 12 раз до почти 4,6 миллиарда долларов в прошлом году. Но растущие затраты на вычислительные ресурсы довели операционные расходы до почти 13 миллиардов долларов. Группа заключила соглашения о получении вычислительных мощностей от партнёров, включая Google, Space X и несколько более мелких компаний. Выручка во втором квартале этого года составила 11,5 миллиарда долларов, и она на пути к второму подряд кварталу операционной прибыли, хотя и на скорректированной основе.