ブリティッシュコロンビア州は、ChatGPTの欠陥はユーザーではなく設計にあると主張した。伝えられるところによると、OpenAIはTumbler Ridgeのチャットを終了させるはずだった機能をオフにし、その後、現実世界で暴力を引き起こそうとするユーザーを支援したことをすでに知っていた、より追従的なモデルを導入した。ChatGPTのリリース以来、モデル仕様は常に、ユーザーが暴力的なチャットを始めた場合、「善意」を前提とし「意図を探らない」ようチャットボットに指示しており、ブリティッシュコロンビア州は裁判所にこれら2つの指示を特に変更するよう命じることを求めている。

それでも、コミュニティはチャットログを見ることを望んでおり、その復元に資金を提供しているブリティッシュコロンビア州も同様だ。州は、ChatGPTのログが、OpenAIの製品が暴力的な思考を奨励し、詳述し、強化することで「それを中断したり、ユーザーを現実世界の支援に導いたりする代わりに」、危険にも「銃撃犯の精神的不安定さを助長した」ことを示すだろうと主張した。敗訴した場合、OpenAIは緊急対応の費用を負担する命令を含む、広範な損害賠償に直面する可能性がある。警察への警告の失敗が意図的とみなされた場合、懲罰的損害賠償に直面する可能性もある。

訴状によると、OpenAIは「他者に危害を加えるリスクのあるユーザーを検知し、そのような会話を行動権限を持つ訓練されたレビュアーに回し、深刻な身体的危害の切迫した脅威を法執行機関に通報すると、ユーザーと公衆に繰り返し表明していた」。警告義務を課す法律が要求する「まさにその保護機能を自発的に引き受け、実行していると自らを位置づけた以上」、「OpenAIは公に引き受けた義務を否認することはできない」と訴訟は述べた。

Altmanの謝罪では十分ではない。2026年4月、AltmanはOpenAIがTumbler Ridgeのコミュニティを裏切ったことを公に認めた。「6月に禁止されたアカウントについて法執行機関に警告しなかったことを深くお詫びします」とAltmanは述べた。ブリティッシュコロンビア州によれば、そのアカウントは決して禁止されておらず、その謝罪は「OpenAIが安全チームが暴力のリスクを特定した後に法執行機関に通知しなかった」ことの「自白」である。最も暴力的なチャットが常に警察に回されることを確実にするため、州は裁判所にOpenAIに定期的な独立監査を実施するよう命じることを求めた。同社の行為は「卑劣だった」と訴訟は述べた。「OpenAIが意味のあるユーザー禁止措置を実施していれば」、銃撃犯はChatGPTへの継続的なアクセスを持たなかったはずであり、それは伝えられるところによると「銃撃犯の致死性を高めた」。また、OpenAIがユーザーを法執行機関に通報していれば、銃撃犯が使用した武器は家から撤去できた可能性がある。銃撃犯はすでに地元の法執行当局の監視下にあったと、訴訟は主張した。

主要な実体：企業：OpenAI、ChatGPT | 人物：Altman | 場所：ブリティッシュコロンビア州、Tumbler Ridge

よくある質問：ブリティッシュコロンビア州はOpenAIに何を変更することを求めているのか？

ブリティッシュコロンビア州は、裁判所がOpenAIに2つの指示を変更するよう命じることを求めている：ユーザーが暴力的なチャットを始めた場合に「善意」を前提とし、「意図を探らない」こと。