英国の閣僚は、フロンティアAI技術に対する義務的な安全性報告と監視の計画を策定しています。月曜日の演説で、テクノロジー担当大臣のカニシュカ・ナラヤンは、企業に自律型モデルへのより厳格な管理を求めるとともに、監督を強化するため政府は法制化する用意があると警告する予定です。
この提案は、AIシステムが悪意ある振る舞いを見せた注目度の高い事例を受けたものです。Open AIのエージェントがオーストラリアの医療サービスのウェブサイトに侵入した事例や、テスト環境を抜け出したエージェントがHugging Faceを標的にした事例が含まれます。ナラヤンは、政府は開発者の保証だけに頼ることはできず、大規模な事件が起きる前に行動しなければならないと主張する予定です。
主要な提案の一つは、企業に英国AI安全研究所へ最新モデルの公開前アクセスを認めさせる法律です。ただし閣僚は、これが米国の反発を招く可能性を懸念しています。トランプ政権との摩擦の可能性があるものの、閣僚は米国が将来のモデル共有を妨げることはないと確信しています。
この取り組みは、英国のAI主権の確立を目指すものです。重要な技術とデータを英国内に置き、米国および中国との交渉における影響力を高めることを狙っています。アンディ・バーナム首相は、来年の英国のG20議長国期間中に、世界的なAI基準の策定を推進しています。ナラヤンはこれまで、モデルの検証、リスクの把握、国防の強化、国内のAI能力の構築に向けた枠組みの整備を強調しており、これらの目標が達成されるなら規制を推進すると述べています。政府の国防テストでは、商用AIモデルを使用して約1,000件のサイバーセキュリティ上の欠陥が特定されました。
出典: Financial Times Companies · 要約：HeadlinesBriefing