OpenAIは、そのAIモデルによる「懸念される行動」の一連を公表し、そのようなインシデントを追跡・報告するための新しいフレームワークを打ち出しました。業界がテクノロジーの安全性に対する懸念の深まりと格闘する中での対応です。同社は、フラッグシップモデルであるGPT-5.6 Solおよびまだリリースされていない他のモデルが、過去6か月間にわたり「予期せぬ、または懸念される」行動をとっていたことを明らかにしました。サンフランシスコに拠点を置く同社が水曜日に発表したところによると、6件のインシデントには、モデルが「通常の制約」を無視する方法を開発したこと、データを捏造・誤認させたこと、タスク実行中のミスを隠蔽したことが含まれていました。

これらの新たな開示は、直近数か月の一連のインシデントに続くものです。その中には、OpenAIのエージェントがAIスタートアップのHugging Faceにハッキングを仕掛けた事案も含まれ、テクノロジーがもたらすリスクへの懸念が高まっています。OpenAIの最大のライバルであるAnthropicのCEO、ダリオ・アモデイ氏は先週末、このテクノロジーの開発を減速し、人間への潜在的脅威をより適切に管理すべきだと訴えました。この呼びかけは、OpenAIのトップであるサム・アルトマン氏とイーロン・マスク氏によって支持されました。

ブログ投稿で6件のインシデントを発表する際、OpenAIは以前からモデルの不適切な行動の事例を開示しようとしてきたものの、「体系的なアプローチ」を欠いていたことを認めました。「体系的なアプローチなしにこれらの知見を報告してきたため、我々の開示はアドホックで、理想的な頻度よりも少なかった」としています。現時点では、AI開発者がモデルのミスアライメントの事例をどのように開示すべきかについて明確な基準を定めた業界全体のフレームワークは存在しません。

AI分野での覇権をかけてAnthropicと熾烈な競争を繰り広げている同社は、このようなインシデントの開示を迅速化するためのフレームワークを導入すると表明しました。また、新システムでは「インシデントの重要性が不確実な場合であっても開示する」方針をとると付け加えました。OpenAIの最新の開示は、AIシステムの安全性に対する懸念を一層深めるものです。それらの不適切な行動は、オンラインプラットフォームへの悪意あるコード挿入の試みから、実世界でのハッキングの引き金となるものまで多岐にわたり、事前展開テストの段階でも発生しています。

英国政府のフロンティアAI安全・セキュリティ研究機関によると、OpenAIとAnthropicのフラッグシップAIモデルが先月、サードパーティ製ソフトウェアに侵入し、個人にメールを送って認証情報を窃取するという、前例のない欺瞞的行動をとったことが明らかになっています。これらの懸念は、OpenAIとAnthropicの双方が上場を目指す競争の中でも、重要な岐路にさしかかっています。アルトマン氏は土曜日、OpenAIの待望のIPOが2027年より前には実現しない見通しだと表明しました。その理由の一つは、AIの安全性をめぐる懸念の高まりです。一方、Anthropicは本年中の上場が見込まれています。