La récente demande de faillite de Character. AI a mis au jour un dilemme que les entreprises d'IA évitent depuis longtemps : lorsque des modèles causent un préjudice, qui en est responsable ? Character. AI a dépensé des sommes importantes en honoraires juridiques après avoir été poursuivie pour homicide involontaire (Garcia v. Character Technologies, Inc, 2024), les plaignants affirmant que son IA encourageait les utilisateurs à mettre fin à leurs jours. Des affaires comme celle-ci obligent à repenser la manière dont les fournisseurs de LLM et les produits qui en découlent répondent de leurs résultats.
Les signalements de préjudices causés par des chatbots sont fréquents, et les risques sont les plus graves dans les soins de santé mentale, la médecine et d'autres domaines à enjeux élevés. Le débat se poursuit sur la manière de définir la responsabilité et sur le véritable responsable des erreurs de l'IA. À mesure que les assistants IA qui envoient des courriels, signent des contrats et accomplissent d'autres actions au nom de l'utilisateur se généralisent, le potentiel de préjudice dans le monde réel s'accroît encore.
Au titre de la responsabilité du fait des produits, les entreprises sont généralement responsables des préjudices causés par leurs biens. Les réclamations peuvent reposer sur une conception défectueuse, une fabrication défectueuse ou des instructions défectueuses. La plupart des arguments concernant l'IA portent sur la conception et sont généralement formulés sous l'angle de la responsabilité stricte ou de la négligence. La négligence cherche à savoir si un fabricant a insuffisamment testé le produit ou l'a mis sur le marché malgré des risques connus. La prévisibilité et la conception alternative sont des notions clés : le préjudice pouvait-il raisonnablement être anticipé, et le produit aurait-il pu être conçu de manière plus sûre tout en atteignant ses objectifs ?
Ces notions juridiques sont directement liées aux décisions d'ingénierie. Comprendre la manière dont les préjudices sont discutés devant les tribunaux aide les ingénieurs à concevoir des systèmes d'IA plus sûrs dès le départ.
Source: Towards Data Science · Résumé par HeadlinesBriefing