Anthropic опубликовала исследование, в котором утверждает, что самореплицирующиеся ИИ-черви могут оказаться всего в нескольких месяцах от распространения по уязвимым IoT-устройствам. Доклад ведущей лаборатории, опубликованный в понедельник, предполагает, что модели ИИ в конечном счете смогут копировать себя без опоры на аппаратное обеспечение дата-центров. Модель с 9 миллиардами параметров успешно развернула инференс на восьми из девяти типов оборудования, протестированных Anthropic, а распределённый экземпляр Gemma4-26B-A4B работал на 15 обычных Android-приставках со скоростью 0,39 токена в секунду. Anthropic заявила, что такой репликатор будет трудно остановить, поскольку у него нет центрального узла, который можно выключить.
На этапе репликации исследователи использовали GLM 5.2 от Z.ai, чтобы распространить копию Llama3.1-8B по восьми экземплярам Google Cloud, на которых работал эмулятор Android 15. Модель распространилась на все восемь узлов в четырёх из пяти испытаний и на семь из восьми в оставшемся. Anthropic заявила, что это указывает на то, что будущие небольшие модели смогут завершить и процесс репликации.
Однако у исследования есть явные ограничения. Anthropic в значительной степени обошла вопрос эксплуатации уязвимостей, опираясь на более ранние работы, а целевые узлы были созданы специально и намеренно оставлены открытыми для атак. Сама компания описала свои тесты эксплуатации как дающие "верхнюю границу успеха в реальном мире". Типичные точки входа ботнетов также можно предотвратить с помощью базовой гигиены безопасности.
Скорость — ещё одна оговорка. Anthropic оценивает, что таким червям могут понадобиться дни, чтобы удвоить свой размер, тогда как Mirai удвоился примерно за час при появлении в 2016 году. Доклад полезен как предупреждение о будущих рисках, но он не показывает, что подобный червь уже распространяется или что это неминуемо.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing