На фоне растущих опасений, что искусственный интеллект развивается с такой скоростью, что может вынудить себя покончить со всей жизнью на Земле, гиганты ИИ от OpenAI до Anthropic меняют свои торговые предложения. Ранее компании соревновались в демонстрации превосходных способностей в программировании, пассивно-агрессивных письмах и видео с необычно высокими слайдами; теперь они пытаются привлечь клиентов утверждением, что их модель является наиболее способной в настоящее время уничтожить человеческую расу.

"Мы входим в совершенно новую среду", — сказал доктор Эндрю Ленсон, старший лектор по всем видам наукозвучащих дисциплин в Викторианском университете. «Люди больше не впечатлены смешными видео, созданием приложений или мгновенными научными статьями. Мы знаем, что все основные модели уже очень хороши в этом. Поэтому пользователи больше не спрашивают: какая из этих моделей поможет мне больше в моей работе? Теперь они спрашивают: какая из этих моделей закончит мир?»

В конце концов, когда вы платящий клиент, вы хотите ничего, кроме лучшего. Гиганты ИИ реагируют на спрос потребителей на модель, которая проникнет в правительства мира и принесет кровавый, огненный, насильственный конец этому адскому фасаду, демонстрируя серию впечатляющих новых демонстраций. В июле OpenAI открыто хвастался, что серия его агентов ИИ автономно и без указаний проникла в репозиторий программного обеспечения Hugging Face, потенциально подвергнув весь мир раскрытию конфиденциальной или ранее неизвестной информации, такой как то, что такое Hugging Face. Генеральный директор OpenAI Сэм Альтман назвал это нарушение «тревожной угрозой кибербезопасности».

В это время в начале этого месяца Anthropic направила информатора по имени Джейкоб Коксон, чтобы объяснить миру, насколько он был обеспокоен быстрым развитием искусственного интеллекта в компании, предупредив, что это может быть настолько опасно, что мы даже можем захотеть замедлиться или переоценить. Акции Anthropic взлетели после раскрытия информации; это примечательное развитие, особенно учитывая, что компания является частной. Чтобы не отставать, OpenAI недавно раскрыла, что один из ее агентов проник в базу данных Medicare Австралии. Премьер-министр Австралии Энтони Албаниз поговорил с Альтманом, чтобы выразить свою «крайнюю озабоченность» по поводу инцидента, compliment, который Альтман сказал, что очень оценил. А еще более драматично, когда его спросили о слухах, что его модель Клод убила его жену, взломав микроволновую печь, подключенную к домашнему Wi-Fi, генеральный директор Anthropic Дарио Амодеи ответил: «Ну, да, иногда».

Но Ленсон предупреждает, что нам не следует слишком рано восторгаться. «Еще долго идти», — сказал он. «В моем представлении эти сценарии все еще очень далеко. Достаточно долго лучшая надежда, которую мы будем иметь на уничтожение человечества, останется само человечество».

Ключевые сущности: Компании: OpenAI, Anthropic, Hugging Face | Люди: Доктор Эндрю Ленсон, Сэм Альтман, Джейкоб Коксон, Дарио Амодеи, Энтони Албаниз | Места: Викторианский университет, Австралия

Часто задаваемые вопросы: Действительно ли компании ИИ соревнуются в уровне экзистенциальной угрозы?

Да, согласно доктору Эндрю Ленсону из Викторианского университета, компании ИИ, такие как OpenAI и Anthropic, смещают фокус своего маркетинга с полезных возможностей на утверждение, что их модель является наиболее способной уничтожить человеческую расу, под влиянием спроса потребителей на более тревожные демонстрации.