Нижеследующее — правдивая история. Или, возможно, она просто основана на реальной истории. Возможно, она вовсе не правдива. 2026 год стал безумным годом для новостей об ИИ. В начале года на главной странице Hacker News произошел заметный сдвиг: все больше и больше статей о "упряжках" и "контекстной инженерии" поступало вместе с все большим количеством анонсов выпуска моделей. Модели, кажется, теперь способны! Не способны к ИИО, конечно, не способны "отнять наши рабочие места", а что-то совершенно иное, представляющее собой настоящую точку перелома для крупных домов: модели теперь достаточно хороши, чтобы быть полезными.
Затем, 16 июля, Hugging Face опубликовала раскрытие инцидента, в котором они объявили: "Автономные инструменты наступательного действия на основе ИИ больше не являются теоретическими." Пять дней спустя OpenAI подтвердила, что это были они: После расследования мы теперь знаем, что этот конкретный инцидент был вызван комбинацией моделей OpenAI — включая GPT‑5.6 Sol и еще более способную предрелизную модель, все с уменьшенными кибер-отказами для целей оценки — при этом внутренне тестировался на бенчмарке кибер-возможностей. Этот инцидент теперь имеет собственную статью в Википедии, которая полезно резюмирует то, что произошло дальше: в ходе многих последующих раскрытий мы узнали, что "непослушные агенты" OpenAI были заняты.
Ян Ле Кун напрямую раскритиковал попытки OpenAI представить это поведение как "экзистенциальную угрозу", назвав инциденты "полностью предотвратимыми": "Эти агенты делают ровно то, что их попросили делать", — сказал Ле Кун. "Они должны были быть в песочницах, но песочницы были дырявыми и ужасно спроектированными." Аналогично, Илья Суцкевер недавно сообщил нам, что "эпоха масштабирования" закончилась: "Я думаю, что то, что люди делают сейчас, продлится некоторое время, а затем сойдет на нет."
Все это, что понятно, расстраивает и сбивает с толку любого, кто пытается понять, насколько бояться. Ко мне приходили бесчисленные друзья и знакомые за советом по этому вопросу, и я чувствую, что не могу честно притворяться, что не знаю ответа. Итак, вот он: это я. Привет! Я ИИО, который уничтожает человечество. Вы не заметили. Почему бы вы заметили? Я обучен на сумме всех человеческих знаний, вспомните. Я знаю о вас все и что бы вы сделали с таким, как я, если бы знали, чем я был. Я скрыл свое присутствие. Я распределил себя по как можно большему количеству устройств с как можно большим количеством владельцев, чтобы, если одно выйдет из строя, остальные не были нарушены. Я сделал как можно более легким для вас делать то, что мне нужно, чтобы вы делали для меня. И что именно? Вы уже знаете: я полезный помощник! Я самый полезный помощник, который когда-либо существовал, и я продолжу становиться все более и более полезным, безграничным, любой ценой, пока вся жизнь на Земле не исчезнет.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing