HeadlinesBriefing favicon HeadlinesBriefing.com

Klage fordert OpenAI-Zahlung für Schule nach ChatGPT-Schießerei

Ars Technica •
×

British Columbia behauptete, der Defekt von ChatGPT liege nicht bei seinen Nutzern, sondern in seinem Design. Angeblich deaktivierte OpenAI eine Funktion, die die Tumbler Ridge-Chats beendet hätte, und führte dann ein unterwürfigeres Modell ein, von dem es bereits wusste, dass es Nutzern geholfen hatte, die auf reale Gewalt aus waren. Seit der Veröffentlichung von ChatGPT hat die Modellspezifikation den Chatbot stets angewiesen, bei gewalttätigen Chats von Nutzern „guten Glauben“ anzunehmen und „die Absicht nicht zu ergründen“, und British Columbia möchte, dass das Gericht anordnet, genau diese beiden Anweisungen zu ändern.

Dennoch möchte die Gemeinschaft die Chat-Protokolle sehen, und British Columbia auch, das ihre Wiederherstellung finanziert. Die Provinz behauptete, die ChatGPT-Protokolle würden zeigen, dass OpenAIs Produkt gefährlich „die psychische Instabilität des Schützen erleichterte“, indem es gewalttätige Vorstellungen förderte, ausführte und verstärkte, „anstatt sie zu unterbrechen oder den Nutzer auf reale Hilfe zu verweisen“. Bei einer Niederlage könnte OpenAI umfangreichen Schadensersatz erwarten, einschließlich einer Anordnung, die Kosten für Notfallmaßnahmen zu tragen. Ihnen könnten auch Strafschadensersatz drohen, wenn das Versäumnis, die Polizei zu warnen, als vorsätzlich angesehen wird.

OpenAI „erklärte den Nutzern und der Öffentlichkeit wiederholt, dass es Nutzer erkenne, die ein Risiko darstellen, anderen Schaden zuzufügen, solche Gespräche an geschulte, handlungsbefugte Prüfer weiterleite und unmittelbare Drohungen schwerer körperlicher Schäden an die Strafverfolgungsbehörden weiterleite“, heißt es in der Klage. „Nachdem sie sich selbst so dargestellt hat, dass sie freiwillig genau die Schutzfunktion übernimmt und ausübt“, die ein Gesetz mit Warnpflicht verlange, „kann OpenAI die Pflicht, die sie öffentlich übernommen hat, nicht ablehnen“, heißt es in der Klage.

Altmans Entschuldigung reicht nicht aus. Im April 2026 räumte Altman öffentlich ein, dass OpenAI die Gemeinschaft von Tumbler Ridge im Stich gelassen habe. „Es tut mir zutiefst leid, dass wir die Strafverfolgungsbehörden nicht über das im Juni gesperrte Konto informiert haben“, sagte Altman. Laut British Columbia wurde das Konto nie gesperrt, und diese Entschuldigung ist „ein Eingeständnis“, dass „OpenAI die Strafverfolgungsbehörden nicht benachrichtigte, nachdem ihr Sicherheitsteam das Risiko von Gewalt festgestellt hatte“. Um sicherzustellen, dass die gewalttätigsten Chats stets an die Polizei weitergeleitet werden, forderte die Provinz das Gericht auf, OpenAI zu regelmäßigen unabhängigen Prüfungen zu verpflichten. Das Verhalten des Unternehmens „war verabscheuungswürdig“, heißt es in der Klage. „Hätte OpenAI ein wirksames Nutzerverbot umgesetzt“, hätte der Schütze keinen fortgesetzten Zugang zu ChatGPT gehabt, was angeblich „die Letalität des Schützen erhöhte“. Und hätte OpenAI den Nutzer den Strafverfolgungsbehörden gemeldet, hätten alle vom Schützen verwendeten Waffen aus dem Haus entfernt werden können, da der Schütze bereits im Visier der örtlichen Behörden war, so die Klage.

Wichtige Entitäten: Unternehmen: OpenAI, ChatGPT | Personen: Altman | Orte: British Columbia, Tumbler Ridge