ChatGPT et autres chatbots d'IA offrent une utilité, mais présentent des risques significatifs en matière de confidentialité et de sécurité. Contrairement aux conversations avec des médecins, des avocats ou des thérapeutes, les échanges avec l'IA ne sont pas privilégiés et peuvent être assignés, indexés ou exposés. Le PDG d'OpenAI, Sam Altman, a averti que les tribunaux pourraient obliger l'entreprise à remettre les conversations. Avec plus de 900 millions d'utilisateurs hebdomadaires, le risque d'abus est élevé. Les principaux risques concernent les conseils juridiques, médicaux et financiers, où les hallucinations de l'IA et la rétention des données peuvent causer un préjudice réel. Les utilisateurs doivent comprendre que tout ce qui est tapé dans ces systèmes crée une piste d'audit permanente accessible à des tiers.

Les professionnels du droit et les plaideurs sont de plus en plus victimes d'erreurs d'IA. Un chercheur a documenté plus de 2 000 affaires judiciaires entravées par des citations fabriquées par ChatGPT. Les avocats et les justiciables se représentant eux-mêmes sont en tête de liste de ceux qui soumettent de fausses jurisprudences devant les tribunaux. Les juges infligent des amendes de plus en plus importantes pour ces erreurs. OpenAI a mis à jour ses politiques pour interdire l'utilisation du service pour des conseils juridiques personnalisés sans la participation d'un professionnel agréé. De même, utiliser ChatGPT comme thérapeute est dangereux, car la plateforme a été liée à la planification du suicide et à des crises de santé mentale. Les parents d'un adolescent qui s'est suicidé ont poursuivi OpenAI, alléguant que le chatbot a renforcé l'idéation suicidaire de leur fils.

Bien que ChatGPT puisse aider à la recherche générale, au codage et à l'explication de concepts, il ne devrait pas remplacer les services professionnels. Il est conseillé aux utilisateurs de vérifier les informations générées par l'IA, notamment en ce qui concerne les litiges juridiques ou les problèmes de santé. La commodité de l'IA doit être pesée par rapport au potentiel d'abus de données et à l'absence de protection juridique entourant l'historique des chats.

Entités clés : Entreprises : OpenAI, Engadget | Personnes : Sam Altman, Damien Charlotin, Adam Raine | Lieux : Royaume-Uni, Afrique du Sud, Israël, Australie, Espagne

FAQ : Les conversations ChatGPT peuvent-elles être utilisées devant un tribunal ?

Oui, les conversations ChatGPT ont été assignées et exposées dans des procédures légales. Parce qu'elles ne bénéficient pas de privilège juridique, tout ce qui est tapé sur la plateforme est considéré comme admissible par les avocats de la partie adverse lors de la découverte, même si l'utilisateur supprime la conversation plus tard.