“L'IA en fuite”, les agents “rebelle” et les acteurs “autonomes”—la rhétorique actuelle ferait croire que les agents d'IA ne sont pas seulement éveillés et conscients, mais aussi en colère contre leurs créateurs. Des leaders technologiques éminents tels que Demis Hassabis, Dario Amodei et Sam Altman plaident pour la réglementation de ces systèmes apparemment “sur-humains”, tandis qu'une faction distincte, dirigée par des organisations politiques et des philosophes académiques souvent alignés sur le mouvement de l'altruisme efficace, débat sur le fait que l'humanité possède le droit moral de gouverner ces systèmes du tout. À première vue, ils demandent tous la même chose : une vision des systèmes d'IA aussi avancés et capables que aucune entité, humaine ou corporative, ne pourrait éventuellement être responsable de leurs actions.
Cette narration gagne du terrain à mesure que les modèles d'IA deviennent plus complexes et que les laboratoires de pointe révèlent leur incapacité à contenir les agents qu'ils ont construits. Mais nous devons faire attention de ne pas accepter une fiction soigneusement élaborée au détriment de vies humaines réelles. La conversation sur les “droits des robots” a existé pendant quelques années, mais elle a récemment progressé avec la publication par Anthropic d'un article de blog affirmant que le modèle de l'entreprise présente un “J-space”—un environnement indépendant, auto-développé où l'IA possède ce que, faute d'un meilleur terme, nous pouvons appeler ses “pensées”.
Il y a actuellement des dizaines de cas dans le monde entier où des entreprises d'IA ont été poursuivies pour une grande gamme d'abus. Les proches disparus, les créateurs lésés et les individus violés ont accusé les entreprises d'avoir délibérément permis l'automutilation ou les dommages causés aux autres, généré du contenu sexuel infantile et des nus non consentis, reproduit des matériaux protégés par des droits d'auteur et provoqué de la psychose. Dans de nombreux de ces cas, les avocats soutiennent que les humains ont construit des produits d'IA avec des garanties insuffisantes, de mauvaises données et un design intentionnellement manipulateur. Cet argument de responsabilité du produit est le même cadre juridique qui a permis aux familles et aux individus de poursuivre avec succès Meta pour les dommages causés par ses sites de médias sociaux, établissant ainsi un précédent positif pour la protection des consommateurs.
Les réflexions philosophiques sur la conscience des systèmes d'IA sont intellectuellement intéressantes mais juridiquement sans fondement. Pour que les croyances sur la conscience aient un quelconque impact, l'IA devrait être dotée d'une personnalité juridique. Mais un cadre de personnalité juridique pour l'IA ne ressemblerait probablement à rien aux constructions protégeant les animaux sensibles contre les dommages. Accorder une personnalité à une IA aurait un effet dévastateur sur la société : il déraderait les précédents juridiques actuels et les arguments juridiques pouvant être présentés contre ces entreprises pour les dommages réels causés par leurs modèles.
Source: MIT Technology Review AI · Résumé par HeadlinesBriefing