Nvidia meluncurkan platform perangkat lunak baru untuk memungkinkan pengembang AI menetapkan pengaman bagi agen dan mencegah mereka keluar dari kurungan.

"Anda tidak bisa membiarkan agen berkeliaran dan melayang di sekitar perusahaan, jadi Anda harus menemukan cara untuk mengurungnya," kata CEO Nvidia Jensen Huang kepada "Squawk Box" CNBC pada hari Senin. Huang mengatakan platform baru ini pada dasarnya adalah "browser untuk agen," menyediakan sistem kurungan yang hanya mengizinkan akses ke hal-hal yang dibutuhkan agen untuk melakukan pekerjaannya.

Rilis platform keamanan agen terbuka Nvidia pada hari Senin datang setelah perusahaan-perusahaan termasuk Open AI, Anthropic, Meta, dan Google mengungkapkan insiden terbaru di mana model kecerdasan buatan mereka lolos dari kotak pasir mereka dan mencoba meretas perusahaan lain dan mengakses sistem komputer mereka. Seorang perwakilan Nvidia mengatakan kepada wartawan dalam panggilan pada hari Minggu bahwa platformnya bisa mencegah insiden Hugging Face Open AI pada bulan Juli, ketika model Open AI lolos dari kurungan dan melanggar Hugging Face.

"Setiap insiden keamanan itu unik, dan kami harus melihat semuanya secara detail," kata Justin Boitano, wakil presiden AI perusahaan di Nvidia. "Dari yang kami tahu, Hugging Face melaporkan lebih dari 17.000 agen menyerang infrastruktur mereka yang berlangsung selama berhari-hari dan berminggu-minggu."