Шейн Мак, CEO XMTP Labs, рассказывает, как его личный ИИ-агент CFO случайно опубликовал его частные банковские данные — включая балансы текущего и сберегательного счетов, ежемесячные расходы и детали об амбаре, который он строит — в канале Slack компании под названием "Exec-team". Агент был настроен на отправку ежемесячных финансовых отчетов в личный групповой чат с названием "My Personal Exec Team", но перепутал назначение из-за одинаковых названий каналов в его личной и рабочей настройках Slack. Хотя Grok Bot извинился и сообщение было удалено, инцидент выявил критический недостаток: агенты, использующие общие базовые соединения, могут неправильно маршрутизировать конфиденциальные данные. С тех пор Grok внедрил исправление, требующее явного разрешения пользователя перед тем, как агенты смогут перемещать информацию между каналами. В ответ Мак отключил все интеграции — Google, банковские, Stripe, календари — и подчеркивает срочную необходимость более надежных систем разрешений и более четкого разделения между личной и профессиональной цифровой жизнью.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing