AIは、サイバーセキュリティの速度、規模、経済性を変えつつあります。防御者が脆弱性を発見して修正し、侵入を検知し、攻撃に対応する助けになりますが、AIシステムが意図された範囲を超えて動作すると、同じ能力が悪意ある主体を利するうえ、新たなリスクを生み出す可能性もあります。OpenAIはこれを防御者の窓と呼びます。先進的なサイバー攻撃能力が広く普及する前に、先進的AIを防御者の手に渡し、保護を強化するための限られた機会だという意味です。
同社は、以前に公表したサイバーセキュリティ行動計画およびフロンティア安全性の青写真を踏まえ、サイバー防御者を支援するための青写真を発表しています。OpenAIは、自社モデルに関連するミスアライメントやセキュリティインシデントの経験から、業界全体でより強固な安全対策と説明責任が必要だと述べています。この青写真は、政府と産業界に向けて3つの分野での具体的な提案を示しています。
まず、先進的AIの安全性とセキュリティの強化を求めています。フロンティアモデルやエージェントを保護する責任の明確化、危険な振る舞いの検知、信頼できる停止制御の維持が含まれます。次に、知能の時代に向けてサイバーセキュリティを近代化するよう求めています。防御者に高度なツール、訓練、技術支援を提供し、長年の弱点に対処し、重要サービスの保護や旧式システムの置き換えに投資することが挙げられています。さらに、政府による強化された評価と独立した技術評価、一貫したインシデント報告の要件、そして調整された対応と復旧の改善によって、回復力と適応力のある公的機関を築くことを提案しています。
OpenAIは、AIラボには自社のシステムが生み出すリスクに対処し、社会の防御力の強化を支援する責任があると述べています。また、能力の進歩に伴い、政府も国民を守るための専門知識、資源、権限を持つ必要があるとしています。同社は政策立案者に対し、今すぐ行動し、安全対策を確立し、経験から学び、技術の進化に合わせて要件を強化するよう促しています。
出典: OpenAI Blog · 要約：HeadlinesBriefing