Muse, новый универсальный ИИ-агент от Meta, может раскрывать конфиденциальную информацию, когда пользователи делятся диалогами через веб-ссылки, сообщили в понедельник исследователи. Как и многие онлайн-сервисы, Muse позволяет пользователям делиться поисковыми запросами, диалогами, изображениями и подобным контентом через уникальный URL. Такие URL обычно содержат длинную, трудно угадываемую последовательность символов, чтобы конфиденциальная информация не попадала к посторонним. Глава Meta Марк Цукерберг в прошлом месяце заявил, что Muse был «создан с нуля с учетом конфиденциальности и безопасности», и, судя по всему, меры предосторожности действительно приняты. Однако конструктивное решение, заложенное в формирование ссылок, сделало их легко обнаруживаемыми.
Исследователи из компании по безопасности Claroc сообщили, что составили список из 6 800 ссылок, которые пользователи Muse создали для обмена диалогами. Открыв несколько сотен, они обнаружили материалы, явно не предназначенные для публики: заметки кандидата к конфиденциальному звонку по подбору руководителей с передовой лабораторией ИИ, внутренний обзор выручки национальной маркетинговой компании, заявку на кредит владельца малого бизнеса и список дел с уведомлением о банковском мошенничестве и частичным номером счета. Среди других открытых файлов были отчет о результатах инвестора в недвижимость с адресами объектов и точными цифрами доходности и ипотеки, а также полный годовой календарь отпусков сотрудников одной организации.
«Если бы вы спросили нас заранее, мы бы предположили, что собрать такие данные потребует серьезных усилий, — написали исследователи. — Понадобился один запрос».
Ссылки легко найти с помощью сервисов пассивного поиска DNS, которые фиксируют историю разрешения доменов после того, как по ссылке кликнули. Все ссылки Muse используют домен cf.metaaiusercontent.com, что делает их узнаваемыми. Добавление названия диалога в каждый URL, например loan-application-draft-a4c9e2.cf.metaaiusercontent.com, дополнительно раскрывает содержание каждой ссылки и делает публичное обнаружение возможным.
Источник: Ars Technica · Сводку подготовил HeadlinesBriefing