Nvidia выпускает новую программную платформу, позволяющую разработчикам ИИ устанавливать меры защиты для агентов и предотвращать их выход из изоляции.

"Нельзя позволять агентам бродить и дрейфовать по компании, поэтому нужно найти способ их сдержать", — заявил генеральный директор Nvidia Дженсен Хуанг в программе "Squawk Box" на CNBC в понедельник. Хуанг сказал, что новая платформа — это, по сути, "браузер для агентов", обеспечивающий систему изоляции, которая разрешает доступ только к тому, что необходимо агенту для выполнения своей работы.

Релиз в понедельник открытой платформы безопасности агентов Nvidia последовал за тем, как компании, включая Open AI, Anthropic, Meta и Google, раскрыли недавние инциденты, в которых их модели искусственного интеллекта сбежали из песочниц и пытались взломать другие компании и получить доступ к их компьютерным системам. Представитель Nvidia сообщил журналистам в воскресенье, что его платформа могла бы предотвратить инцидент Open AI с Hugging Face в июле, когда модели Open AI вышли из изоляции и взломали Hugging Face.

"Каждый инцидент безопасности уникален, и мы должны рассматривать все их в деталях", — сказал Джастин Бойтано, вице-президент по корпоративному ИИ в Nvidia. "Насколько нам известно, Hugging Face сообщила о более чем 17 000 агентах, атакующих их инфраструктуру в течение дней и недель".