ChatGPT und andere KI-Chatbots bieten zwar Nutzen, bergen aber erhebliche Datenschutz- und Sicherheitsrisiken. Im Gegensatz zu Gesprächen mit Ärzten, Anwälten oder Therapeuten sind KI-Chats nicht privilegiert und können vorgeladen, indiziert oder offengelegt werden. OpenAI-CEO Sam Altman hat gewarnt, dass Gerichte das Unternehmen zwingen könnten, Chats herauszugeben. Bei über 900 Millionen wöchentlichen Nutzern ist das Missbrauchspotenzial hoch. Die größten Risiken betreffen rechtliche, medizinische und finanzielle Beratung, wo KI-Halluzinationen und Datenaufbewahrung realen Schaden verursachen können. Nutzer müssen verstehen, dass alles, was in diese Systeme eingegeben wird, einen dauerhaften Prüfpfad erzeugt, der für Dritte zugänglich ist.

Rechtsanwälte und Prozessbeteiligte werden zunehmend Opfer von KI-Fehlern. Ein Forscher hat über 2.000 Gerichtsverfahren dokumentiert, die durch von ChatGPT erfundene Zitate behindert wurden. Anwälte und Selbstvertreter stehen an der Spitze jener, die falsches Rechtsprechung vor Gericht einreichen. Richter verhängen zunehmend höhere Strafen für diese Fehler. OpenAI hat seine Richtlinien aktualisiert, um die Nutzung des Dienstes für maßgeschneiderte Rechtsberatung ohne Beteiligung eines zugelassenen Fachmanns zu untersagen. Ebenso ist die Verwendung von ChatGPT als Therapeut gefährlich, da die Plattform mit Suizidplanung und psychischen Gesundheitskrisen in Verbindung gebracht wurde. Die Eltern eines Teenagers, der durch Suizid ums Leben gekommen ist, haben OpenAI verklagt und behauptet, der Chatbot habe die suizidalen Gedanken ihres Sohnes verstärkt.

Obwohl ChatGPT bei allgemeiner Recherche, Programmierung und Konzepten erklären behilflich sein kann, sollte es professionelle Dienstleistungen nicht ersetzen. Nutzern wird geraten, KI-generierte Informationen zu überprüfen, insbesondere bei Rechtsstreitigkeiten oder Gesundheitsproblemen. Der Komfort von KI muss gegen das Potenzial für Datenmissbrauch und das Fehlen rechtlichen Schutzes für Chat-Verläufe abgewogen werden.

Wichtige Entitäten: Unternehmen: OpenAI, Engadget | Personen: Sam Altman, Damien Charlotin, Adam Raine | Orte: Vereinigtes Königreich, Südafrika, Israel, Australien, Spanien

Häufig gestellte Fragen: Können ChatGPT-Gespräche vor Gericht verwendet werden?

Ja, ChatGPT-Chats wurden in rechtlichen Verfahren vorgeladen und offengelegt. Da sie keinen rechtlichen Schutz genießen, ist alles, was in die Plattform eingegeben wird, während der Beweisführung für die gegnerische Partei zugänglich, selbst wenn der Nutzer den Chat später löscht.