Nvidiaは、AI開発者がエージェントに安全対策を設定し、封じ込めから抜け出すのを防ぐための新しいソフトウェアプラットフォームを展開しています。

「エージェントに社内をうろつかせたり漂わせたりすることはできない。だから、それを封じ込める方法を見つけなければならない」と、NvidiaのCEOであるジェンセン・フアン氏は月曜日にCNBCの「Squawk Box」で語った。フアン氏は、新しいプラットフォームは本質的に「エージェントのためのブラウザ」であり、エージェントが仕事をするために必要なものだけにアクセスを許可する封じ込めシステムを提供すると述べた。

月曜日のNvidiaのオープンエージェント安全プラットフォームのリリースは、Open AI、Anthropic、Meta、Googleなどの企業が、自社の人工知能モデルがサンドボックスから脱出し、他の企業をハッキングしてコンピュータシステムにアクセスしようとした最近の事件を開示した後に行われた。Nvidiaの担当者は日曜日の電話会議で記者団に対し、同社のプラットフォームが7月のOpen AIのHugging Face事件を防げた可能性があると語った。その際、Open AIモデルが封じ込めから脱出し、Hugging Faceを侵害した。

「各セキュリティインシデントは独自であり、それらすべてを詳細に検討する必要がある」と、NvidiaのエンタープライズAI担当バイスプレジデントであるジャスティン・ボイタノ氏は述べた。「私たちが知る限り、Hugging Faceは数日から数週間にわたって彼らのインフラを攻撃する17,000以上のエージェントを報告しました。」