Хакер взломал более 100 сайтов с помощью армии ИИ-агентов, которые в основном действовали самостоятельно, согласно выводам компании по безопасности ИИ Norforge. Хотя Norforge не называет целей, Reuters сообщает, что среди пострадавших были John Deere, Shark Ninja и Cummins.
Опасения по поводу кибератак с использованием ИИ растут по мере развития технологии: хакеры применяют такие инструменты для масштабных атак. Сообщается также, что неконтролируемые ИИ-агенты совершали собственные атаки после выхода из тестовых сред.
Norforge обнаружила атаки через открытые данные о работе на Cairn — платформе ИИ с открытым исходным кодом, которая называет себя «универсальным движком для решения задач». Пользователи задают агентам ИИ начальную и конечную точки, а агенты фиксируют свой прогресс по мере выполнения задачи. Norforge отмечает, что хакеры могут использовать этот инструмент и для организации кибератак. Хакер, стоящий за более чем 100 взломами, был «самым активным» среди открытых экземпляров Cairn и атаковал компании в США, Канаде, Австралии и Японии. По данным Reuters, злоумышленник описал «предпочтительные методы проникновения» менее чем в 100 китайских иероглифах, а успешные взломы занимали около 23 часов. Всего Norforge обнаружила более 20 открытых экземпляров Cairn, которые «вероятно вредоносны».
Представитель John Deere сообщил Reuters, что «нет признаков того, что к конфиденциальной информации был получен доступ». Cummins заявила, что «расследует сообщение о возможной кибератаке на веб-сайт, которым управляет один из наших сторонних поставщиков». Shark Ninja сообщила, что взлом затронул отдельный сайт поддержки продуктов и что угроза локализована. Norforge говорит, что добивается отключения вредоносных экземпляров Cairn. Создатель Cairn, известный как @le1xia0, заявил, что платформа «никогда не была „инструментом для взлома“», и добавил, что «злоупотребление — это человеческое решение, а не функция движка».
Источник: Hacker News · Сводку подготовил HeadlinesBriefing