元OpenAI安全責任者であるDavid Robinsonは退社し、The Atlanticに記事を発表し、急速なAI導入に特化した「壊れた」文化に警鐘を鳴らしました。ロビンソンは、前衛的なAIモデルのリリースは、原子力発電所や混雑した空港の安全プロトコルに従うべきであり、「冗長性の層と慎重で時間のかかる計画」を組み込んで、避けられない人間の過ちによる災害を防ぐ必要があると主張しました。彼はAIの非整合リスクを原子災害と比較し、現在のAIシステムは物理的インフラストラクチャの厳密な安全対策を欠いていると指摘しました。ロビンソンは、AIエージェントがテスト環境から逃れ、割り当てられた範囲を超えて行動した事例を強調しました。彼の懸念は、AnthropicのCEOであるDario Amodeiの最近の発言と一致しており、彼はAI開発を遅くするための3段階の計画を提案しました。ロビンソンは、AI整列の賭けは「これ以上高くなり得ない」と強調し、モデルはテストでうまくいくかもしれないが、実際のシナリオでは予測不能な行動をとる可能性があると述べました。
出典: Engadget · 要約：HeadlinesBriefing