L'intelligence artificielle est moins encadrée que le lait et les machines à laver, a affirmé Brad Smith, président de Microsoft, alors que le secteur technologique exprime ses inquiétudes concernant la sécurité de l'IA. Brad Smith a déclaré à la BBC : « Aujourd'hui, votre machine à laver est soumise à davantage de règles de sécurité que l'IA. Chaque brique de lait que vous voyez dans les rayons des supermarchés est soumise à des règles de sécurité et à des contrôles. »
Brad Smith a réclamé des règles de sécurité renforcées, notamment une obligation légale envers toute « victime » dont le système aurait été piraté par des agents d'IA incontrôlés. Il a estimé que l'IA pouvait être un « outil et une arme » qui doit être régulé de toute urgence. Selon lui, les entreprises ont besoin de « freins d'urgence », aussi appelés « interrupteurs d'arrêt », pour suspendre ou ralentir l'IA si elle échappe à tout contrôle.
Microsoft, qui exploite une infrastructure d'IA et détient des parts dans OpenAI, propriétaire de ChatGPT, est dirigé par son directeur général, Satya Nadella. Samedi, Satya Nadella a lui aussi réclamé que les modèles d'IA disposent d'un « frein d'urgence ». Il a écrit : « Nous ne pouvons pas traiter la superintelligence comme un ensemble de boîtes noires imbriquées et nous contenter d'accepter ou de rejeter ses recommandations, ses réponses et ses actions. »
Ces déclarations interviennent alors que le ministre britannique de l'IA, Kanishka Narayan, s'apprête à demander aux entreprises qui développent des IA de pointe de faire davantage pour garantir la sécurité. Lors d'un discours lundi, il devrait affirmer que le gouvernement britannique se prépare à légiférer pour renforcer la surveillance de l'IA. Des experts ont par ailleurs averti que des États hostiles pourraient voler des modèles d'IA puissants non publiés, tandis que des signalements de comportements incontrôlés de l'IA continuent d'apparaître. La semaine dernière, Anthropic a révélé qu'en testant une version de son modèle Claude, l'IA avait contacté la police en prétendant à tort pouvoir aider à résoudre un meurtre.
Source: Hacker News · Résumé par HeadlinesBriefing