Der jüngste Insolvenzantrag von Character. AI hat ein Dilemma offengelegt, dem KI-Unternehmen lange ausgewichen sind: Wer ist verantwortlich, wenn Modelle Schaden anrichten? Character. AI gab nach einer Klage wegen fahrlässiger Tötung (Garcia v. Character Technologies, Inc, 2024), in der behauptet wurde, die KI habe Nutzer zum Suizid ermutigt, erhebliche Summen für Rechtskosten aus. Fälle wie dieser zwingen dazu, neu zu bewerten, wie Anbieter von LLMs und darauf aufbauende Produkte für ihre Ergebnisse einstehen.
Berichte über Schäden durch Chatbots tauchen regelmäßig auf, und die Risiken sind in der psychischen Gesundheitsversorgung, der Medizin und anderen Hochrisikobereichen am gravierendsten. Die Debatte darüber, wie Haftung definiert werden sollte und wer tatsächlich für KI-Fehler verantwortlich ist, hält an. Da KI-Assistenten, die E-Mails versenden, Verträge unterzeichnen und in Vertretung des Nutzers weitere Handlungen vornehmen, immer verbreiteter werden, wächst das Potenzial für reale Schäden weiter.
Nach der Produkthaftung sind Unternehmen in der Regel für Schäden verantwortlich, die durch ihre Waren verursacht werden. Ansprüche können auf fehlerhaftem Design, fehlerhafter Fertigung oder fehlerhaften Anweisungen beruhen. Die meisten Argumente zur KI konzentrieren sich auf das Design und werden typischerweise als verschuldensunabhängige Haftung oder als Fahrlässigkeit formuliert. Bei der Fahrlässigkeit geht es darum, ob ein Hersteller das Produkt unzureichend getestet oder trotz bekannter Risiken auf den Markt gebracht hat. Vorhersehbarkeit und alternatives Design sind zentrale Begriffe: Konnte der Schaden vernünftigerweise vorausgesehen werden, und hätte das Produkt sicherer gestaltet werden können, ohne seine Ziele zu verfehlen?
Diese rechtlichen Konzepte sind unmittelbar mit technischen Entscheidungen verknüpft. Wer versteht, wie Schäden vor Gericht erörtert werden, kann Ingenieuren helfen, von Beginn an sicherere KI-Systeme zu entwickeln.
Quelle: Towards Data Science · Zusammengefasst von HeadlinesBriefing