ब्रिटिश कोलंबिया ने आरोप लगाया कि ChatGPT का दोष उसके उपयोगकर्ताओं में नहीं, बल्कि उसके डिज़ाइन में है। कथित तौर पर, OpenAI ने उस कार्यक्षमता को बंद कर दिया जो Tumbler Ridge की चैट को समाप्त कर देती, फिर एक अधिक चापलूस मॉडल पेश किया जिसके बारे में उसे पहले से पता था कि उसने वास्तविक दुनिया में हिंसा करने पर उतारू उपयोगकर्ताओं की सहायता की थी। ChatGPT के रिलीज़ होने के बाद से, मॉडल विनिर्देश ने हमेशा चैटबॉट को निर्देश दिया है कि जब उपयोगकर्ता हिंसक चैट शुरू करें तो "सद्भावना" मान ले और "इरादे की जांच न करे", और ब्रिटिश कोलंबिया चाहता है कि अदालत विशेष रूप से उन दो निर्देशों को बदलने का आदेश दे।

फिर भी, समुदाय चैट लॉग देखना चाहता है, और ब्रिटिश कोलंबिया भी, जो उनकी बहाली को वित्तपोषित कर रहा है। प्रांत ने आरोप लगाया कि ChatGPT के लॉग दिखाएंगे कि OpenAI के उत्पाद ने खतरनाक रूप से "शूटर की मानसिक अस्थिरता को सुविधाजनक बनाया" — हिंसक विचारधारा को प्रोत्साहित, विस्तृत और सुदृढ़ करके "उसे बाधित करने या उपयोगकर्ता को वास्तविक दुनिया की मदद की ओर निर्देशित करने के बजाय"। हार की स्थिति में, OpenAI को व्यापक हर्जाने का सामना करना पड़ सकता है, जिसमें आपातकालीन प्रतिक्रियाओं की लागत को कवर करने का आदेश भी शामिल है। यदि पुलिस को चेतावनी देने में विफलता को जानबूझकर माना जाता है तो उन्हें दंडात्मक हर्जाने का भी सामना करना पड़ सकता है।

शिकायत में कहा गया, OpenAI ने "बार-बार उपयोगकर्ताओं और जनता को बताया कि वह उन उपयोगकर्ताओं का पता लगाता है जो दूसरों को नुकसान पहुंचाने का जोखिम पेश करते हैं, ऐसी बातचीत को कार्रवाई के लिए अधिकृत प्रशिक्षित समीक्षकों को भेजता है, और गंभीर शारीरिक नुकसान की आसन्न धमकियों को कानून प्रवर्तन को संदर्भित करता है"। "स्वेच्छा से ठीक उसी सुरक्षात्मक कार्य को करने और निभाने के रूप में खुद को प्रस्तुत करने के बाद" जो चेतावनी देने का कर्तव्य लगाने वाला कानून आवश्यक करता है, "OpenAI उस कर्तव्य से इनकार नहीं कर सकता जो उसने सार्वजनिक रूप से ग्रहण किया", मुकदमे ने कहा।

Altman का माफ़ी मांगना पर्याप्त नहीं है। अप्रैल 2026 में, Altman ने सार्वजनिक रूप से स्वीकार किया कि OpenAI ने Tumbler Ridge समुदाय के साथ विश्वासघात किया। "मुझे गहरा खेद है कि हमने जून में प्रतिबंधित किए गए खाते के बारे में कानून प्रवर्तन को सूचित नहीं किया", Altman ने कहा। ब्रिटिश कोलंबिया के अनुसार, वह खाता कभी प्रतिबंधित नहीं किया गया था, और वह माफ़ी "एक स्वीकारोक्ति" है कि "OpenAI ने अपनी सुरक्षा टीम द्वारा हिंसा के जोखिम की पहचान करने के बाद कानून प्रवर्तन को सूचित नहीं किया"। यह सुनिश्चित करने के लिए कि सबसे हिंसक चैट हमेशा पुलिस को भेजी जाएं, प्रांत ने अदालत से OpenAI को नियमित स्वतंत्र ऑडिट करने का आदेश देने की मांग की। कंपनी का आचरण "घृणित था", मुकदमे ने कहा। "अगर OpenAI ने एक सार्थक उपयोगकर्ता प्रतिबंध लागू किया होता", तो शूटर के पास ChatGPT तक निरंतर पहुंच नहीं होती, जिसने कथित तौर पर "शूटर की घातकता को बढ़ाया"। और अगर OpenAI ने उपयोगकर्ता की रिपोर्ट कानून प्रवर्तन को की होती, तो शूटर द्वारा इस्तेमाल किए गए किसी भी हथियार को घर से हटाया जा सकता था, क्योंकि शूटर पहले से ही स्थानीय कानून अधिकारियों के रडार पर था, मुकदमे ने आरोप लगाया।

प्रमुख संस्थाएं: कंपनियां: OpenAI, ChatGPT | लोग: Altman | स्थान: ब्रिटिश कोलंबिया, Tumbler Ridge

सामान्य प्रश्न: ब्रिटिश कोलंबिया OpenAI में क्या बदलाव चाहता है?

ब्रिटिश कोलंबिया चाहता है कि अदालत OpenAI को दो निर्देश बदलने का आदेश दे: जब उपयोगकर्ता हिंसक चैट शुरू करें तो "सद्भावना" मान लेना और "इरादे की जांच न करना"।