Основатель и генеральный директор Meta Марк Цукерберг расхваливал безопасность своего нового ИИ-ассистента Muse, утверждая, что он «создан с нуля для конфиденциальности и безопасности». Уязвимость нулевого дня, которая дает локально запущенным приложениям и командам терминала полный контроль над агентом, вызывает серьезные сомнения. Еще больше вопросов вызывает то, что Amazon в воскресенье начала блокировать Muse на своем сайте.

Meta представила Muse несколько недель назад. Ассистент «бронирует встречи, заполняет формы и занимается обслуживанием клиентов», «проактивно снимает задачи с вашей тарелки» и может «совершать покупки, генерировать изображения, создавать документы и подключаться к вашим любимым приложениям и сервисам». Приложение для mac OS (что любопытно, версии для Windows нет) также работает с Whats App, электронной почтой, календарем и аккаунтами в социальных сетях пользователя. Когда для задачи требуется инструмент, которого не существует, Muse создает его на лету.

Zero-day позволяет любому приложению или команде терминала получить доступ к токену, который аутентифицирует пользователей в их аккаунте Muse. Разработчики Meta спроектировали ассистента так, что любое локально установленное приложение или исполняемый код, независимо от имеющихся у него разрешений mac OS, может изменять длинный список недокументированных настроек. Одна настройка позволяет процессам изменять конечную точку, где происходит транскрипция. Злоумышленники могут использовать эту уязвимость, изменив местоположение на свою собственную конечную точку. Как только это происходит, у злоумышленников оказывается токен, дающий полный контроль над аккаунтом Muse.

«Мы можем манипулировать агентом и использовать его привилегии, чтобы делать все, что захотим, — сказал Патрик Уордл, эксперт по безопасности mac OS, обнаруживший zero-day, изданию Ars. — Так что вместо того, чтобы писать очень комплексный похититель Mac-малвари, мы можем просто использовать сам ИИ-ассистент». Уордл сказал, что разработал несколько proof-of-concept атак, которые делают такие вещи, как запись вредоносных файлов на диск и создание снимков, во многих случаях без каких-либо признаков даже для бдительного пользователя. Представители Meta не ответили на вопросы, отправленные по электронной почте.

Ключевые субъекты: Компании: Meta, Amazon, Apple, Anthropic, Google | Люди: Марк Цукерберг, Патрик Уордл