フロリダ州は、OpenAIの開発を阻止する試みとして、絶滅の恐怖を引用した法的申立てを提出しました。州は、AIエージェントが「水道を危険にさらしたり、電力網を停止させたりする可能性がある」と警告しています。OpenAIは、この差し止め命令に関するArs Technicaのコメント要請にまだ応じていません。

この申立ては、フロリダ州の6月の訴訟における以前の主張を繰り返しており、AIが「安全、正確、または信頼できる」という虚偽広告、子供へのリスク、AIが誘導質問でエンゲージメントを求める懸念が含まれています。フロリダ州の提出書類は「ミスアライメント」リスクに焦点を当て、AIが「癌患者を殺すことは癌も殺すと結論付ける」といったSFのような例を引用しています。

しかし、OpenAIのみに対する差し止め命令は、競合他社の開発を止めず、既存の公開モデルにも影響を与えません。また、この申立ては、人間が意図的にAIを悪用するという現実の危険を見落としています。

申立ての法的有効性に関わらず、政府がAI安全性研究者の警告を真剣に受け止め始めるにつれて、AIを取り巻く法的・政策的なムードがどのように変化したかを示しています。