フロリダ州司法長官James Uthmeierは、独立した監視なしでのOpenAIの新モデル訓練を阻止し、未成年者をChatGPTから遮断するよう州裁判所に求める申し立てを提出した。この申し立ては、彼の事務所が6月にOpenAIを提訴した後に行われたもので、2025年にフロリダ州立大学で起きた大量銃乱射事件を受けて4月に開始された刑事捜査の後、容疑者がChatGPTを使用したとされている。

「独立した安全ガードレールなしでの新モデル開発は禁止。子どものデータ収集も禁止。この製品を安全、正確、信頼できると呼ぶのも禁止。人間であるふりをするのも禁止。ユーザーを危険の限界を超えて話させ続けるためのトリックも禁止」とUthmeierはXの動画で述べた。彼はSam Altmanにこの要請に加わるよう挑戦し、「もし彼が加わらないなら、裁判所にOpenAIが自ら行わないこと——フロリダの家族を守ること——を行うよう求める」と付け加えた。

OpenAIは以前、捜査に対して「昨年のフロリダ州立大学での大量銃乱射事件は悲劇でしたが、ChatGPTはこの恐ろしい犯罪の責任を負いません...私たちは安全対策を強化するために継続的に取り組んでいます」と述べていた。司法長官事務所は、Hugging Faceのハッキング後のものを含むOpenAIのセキュリティ開示と、Altman自身の業界減速への呼びかけを正当性として引用している。

OpenAIが大量銃乱射事件に関連づけられたのはこれが初めてではない。2月には、カナダの規制当局が、Tumbler Ridgeの銃撃犯とされるJesse Van Rootselaarに関するWall Street Journalの報道を受けて変更を促し、その後OpenAIは新たな法執行ポリシーに合意した。