Anthropic выпустила суровое предупреждение о том, что злонамеренные агенты ИИ вскоре могут самовоспроизводиться через устройства умного дома, создавая неконтролируемые сети. Разработчик ИИ из Сан-Франциско сравнил медленное распространение этих потенциальных 'червей ИИ' с 'цифровой плесенью', предположив, что они могут захватывать духовки, умные холодильники, камеры безопасности и другие IoT-устройства. Компания отмечает, что многие подключённые к Интернету устройства имеют слабую защиту из-за дешёвого производства и прекративших существование материнских компаний, создавая плодородную почву для хакеров. Эти черви на базе ИИ объединят способность к быстрому распространению традиционного вредоносного ПО с продвинутыми возможностями ИИ, потенциально компрометируя значительные доли IoT-вычислений. Anthropic подчёркивает, что, хотя у нас ещё нет полноценного злонамеренного репликатора, агенты становятся всё более способными завершать цепочку репликации. Компания призывает укреплять системы уже сейчас и готовиться к будущему, где такие черви ИИ станут неизбежными.
Источник: Financial Times Companies · Сводку подготовил HeadlinesBriefing