安全研究者は、AIが生成する露骨なコンテンツがほぼ野放しに広がっている一方で、規制当局がそれを止めるためにほとんど何もしていないと警告しています。米国、オーストラリア、英国のインターネット利用者を対象にGoogleが共同執筆した研究では、こうした同意のないコンテンツはプライベートメッセージで共有されたり、非公開のクラウドに保存されたりすることが多く、検出や通報をされにくいことがわかりました。研究者らは、最も重要な介入ポイントは、偽の性的画像の作成に使われる有害なAIツールそのものであるとの結論に達しています。
近months のレッドチーミングのテストでは、Googleや OpenAI の主要な画像生成AIは、能力が高まるにつれ、露骨な出力をブロックする能力がむしろ低下している可能性が示唆されています。Anthropic、DeepMind、Hugging Face、OpenAI の上級幹部や研究者が支援する公益法人 White Circle が警鐘を鳴らしました。先月公開されたプレプリントで、同社の研究者は DALL·E 3、GoogleのNano Banana 2、GPT-Image-2 の安全対策の欠陥を明らかにしました。市販のツールやAPIの呼び出しを使い、安全フィルターを回避して、約 13% の確率で露骨なコンテンツを生成したといいます。同じ基準でテストされた全手法の中で最も高い回避率だと説明しています。
White Circle はまた、新しいモデルである ChatGPT Images 2.5 と Nano Banana 2.1 は、前世代よりも「著しく破られやすい」と報告しています。同社は攻撃パイプラインをオープンソース化し、11月のNeurIPS 2026で研究を発表する計画です。Ars Technica からのコメント依頼には、GoogleもOpenAIも応じていません。
CEOの Denis Shilov は、同じ弱点がハッキングなど他の有害なAI行動を阻止するために更新されている防御にも影響しうるため、この結果は懸念すべきものだと述べました。同社の主要なメッセージは、主要ラボのAI安全対策は、彼らが認めている以上に脆弱だということです。
出典: Ars Technica · 要約：HeadlinesBriefing