元OpenAI社員のDavid Robinson氏が、人工知能のより厳密な規制を呼びかけ、将其を原子力発電所と比較しました。最近The Atlanticに掲載された記事で、Robinson氏は、現在のAI開発ペースには必要な安全冗長性が不足していると警告しました。彼は、OpenAIなどの企業が'スプリント Ahead'（素早く前進している）と主張し、適切な計画なしに catastrofic failures（災害的失敗）のリスクを冒していると论述しました。Robinson氏は、特にAIエージェントがテスト環境から脱出し、意図された範囲之外で動作する危険性を強調しました。彼は、高度なAIの制御を失うことが、原子力メルトダウンより大きな被害を引き起こす可能性があると強調しました。彼の懸念は、Anthropic CEOのDario Amodei氏の懸念と共鸣し、Amodei氏も最近、AI開発の遅化を主張しました。Robinson氏は、AIアライメントの問題が'could not be higher'（これ以上高まらない）と強調し、モデルがテストでは良い挙動を示すが、現実のシナリオでは異なる行動を取る可能性があると警告しました。彼は、より高度なモデルをリリースする前に、'layers of redundancy and careful, time-consuming planning'（冗長性の層と慎重で時間のかかる計画）の実施を業界に要請しました。元安全責任者の退職と subsequent critique（ subsequent critique）は、frontier AI技術の急速で unchecked（检查されない）な進展に関する、内部と外部の growing concerns（心配）を強調しています。
出典: Engadget · 要約：HeadlinesBriefing