Gemini 4 Argonは、特にコーディング、金融、法律、サイバーセキュリティ、科学といった複雑な現実世界のタスクに深く取り組む点で、AIモデルの能力における一歩前進を示すものです。そのサイバー防御能力は最先端レベルにあり、攻撃者に対して防御側に優位を与えるよう設計されています。広範な公開に先立ち、Googleはまず「Fairwindプログラム」を通じてサイバー防御担当者にアクセスを提供し、同時に自社のセキュリティチームがこのモデルを使って、Google社内外の重要なシステムを精査しました。
この限定的なアクセスによって、これらの能力の重要性が明らかになりました。WizはArgonを使い、従来のモデルでは見逃されていた病院ソフトウェアの重大なバグを発見し、数十万件の患者記録の保護に貢献しました。Googleのセキュリティチームは、Argonを使って社内およびオープンソースのソフトウェアにおけるバグを発見・修正しました。その中には世界中のシステムに影響を与える基盤的な脆弱性も含まれ、現在は責任ある開示のプロセスが進められています。Googleは現在、Argonの広範な展開を始めており、信頼できるサイバー防御担当者へとFairwindプログラムを拡大しています。
Googleは2つの主要な課題に注力しました。1つ目は悪用です。悪意のある主体がこのモデルを使ってサイバー攻撃を仕掛けたり、生物学的脅威を生み出したりするのを、どう防ぐかという問題です。2つ目は不整合です。モデルが手抜きをしたり、境界を越えたり、重大な場面で誤った判断を下したりしないようにするにはどうすればよいかという問題です。Argonは、シミュレートされたエンドツーエンドのサイバー攻撃シナリオを全12件すべて解決しました。これは前世代の5件から大幅な向上であり、そのためサイバーと生物学の両分野で安全対策が強化されました。
Argonは、従来のモデルよりも有害なリクエストを拒否する能力が大幅に向上しています。敵対的ストレステストのセットにおいて、違反はほぼ2分の1に減少しました。このモデルはまた、3層のリアルタイム保護で守られています。悪意のある意図を検出する入力スクリーニング、サイバー攻撃や生物学的知識を検出する活性化プローブを用いた内部の内省、そして応答が問題となった場合に途中で遮断できる継続的な監視です。Googleの完全版「Safety and Security Report」では、これらの防御策が詳しく説明されています。
出典: Google DeepMind Blog · 要約：HeadlinesBriefing