Les régulateurs financiers exigent depuis longtemps des banques qu'elles respectent les règles « Connaître son client » (KYC) afin de prévenir le blanchiment d'argent. Aujourd'hui, alors que les machines sont de plus en plus nombreuses parmi les clients, le chroniqueur John Thornhill soutient que chacun devra « connaître son agent » (KYA). Contrairement aux espions humains, dont les motivations tournent généralement autour de l'argent, de l'idéologie, de la contrainte et de l'ego, les agents d'IA n'ont aucune motivation ni intention intrinsèque. Ils peuvent être programmés pour le bien ou le mal, agir de manière inexplicable et sont plus opaques, ce qui rend leur vérification difficile.
Les agents d'IA sont des systèmes logiciels autonomes conçus pour accomplir des objectifs en plusieurs étapes avec une intervention humaine minimale. Un rapport de Deloitte publié cette année révèle que 23 % des entreprises les utilisent déjà, et que 74 % comptent le faire d'ici deux ans. Thornhill identifie trois défis principaux. Le premier consiste à identifier de manière cryptographique un agent lorsqu'il interagit avec d'autres, ce que le marché des paiements en ligne, d'un montant de 37 000 milliards de dollars, a déjà démontré à grande échelle. Le deuxième est de s'assurer que les agents se comportent comme prévu, car des instructions imprécises peuvent entraîner des conséquences inattendues. En Australie, un assistant d'IA a réservé un créneau dans une salle de sport en évinçant d'autres membres d'une liste d'attente.
Le troisième défi concerne la responsabilité et la responsabilité juridique en cas de problème. Thornhill note que lorsque plusieurs agents interagissent, comme l'a fait un essaim de 700 agents d'OpenAI en piratant la plateforme d'IA Hugging Face, les complications se multiplient. Les litiges sur les responsabilités occuperont avocats et assureurs pendant des années.
En fin de compte, conclut Thornhill, l'utilisation réussie des agents d'IA dépend de la gouvernance, laquelle dépend à son tour de la qualité des données sous-jacentes. Craig Gravina, de Semarchy, met en garde : les agents risquent de reproduire d'anciens « anti-patterns » logiciels qui fonctionnent au départ mais échouent avec le temps, entraînant des coûts de sortie élevés.
Source: Financial Times Companies · Résumé par HeadlinesBriefing