Après un déjeuner de deux heures avec les patrons de l'IA de la Silicon Valley mardi, Donald Trump a émergé de la Maison Blanche en vantant un « accord » volontaire entre six grandes entreprises pour « autoréguler » la technologie, qui a récemment été responsable d'une série de piratages alarmants. Le président a déclaré aux journalistes que le document de deux pages — rédigé à la hâte dans la salle Est et contenant une faute d'orthographe — était « presque comme une constitution », et a affirmé qu'il équivalait à « une forme de protection » contre les risques posés par l'IA.

L'accord est loin des garde-fous que des dirigeants de l'IA comme Dario Amodei d'Anthropic ont réclamés. L'accord volontaire décrit brièvement « des couches de contrôles et d'audits » que les six signataires — Anthropic, OpenAI, Google, Meta, xAI et Nvidia — devraient mettre en œuvre. Ils incluent des « contrôles internes robustes » pour surveiller les menaces de cybersécurité et de biosécurité, et pour garantir qu'ils ne piratent pas les systèmes de « manières non intentionnelles ».

Le document engage également les entreprises à « s'associer » avec un auditeur externe indépendant et à désigner individuellement « un comité indépendant du conseil d'administration » pour superviser le processus. Les principaux laboratoires effectuent déjà des évaluations de capacités, et tous sauf Nvidia ont signé des engagements similaires après le sommet de l'IA de 2024 à Séoul. « C'est le plus significatif au niveau des vibes », a déclaré Mackenzie Arnold, directrice générale de US Law & Policy chez Law AI.

Est-ce juridiquement contraignant ? Pas au sens traditionnel, car Trump lui-même a qualifié le document de « moralement contraignant ». Certains avocats pensent qu'il laisse la porte ouverte à un défi juridique ultérieur de la part des régulateurs si les signataires ne respectent pas leurs propres engagements. « Vous ne pouvez pas publier une déclaration publique, disant que vous allez faire quelque chose, et ensuite ne pas tenir parole matériellement », a déclaré Joel Thayer, un avocat conservateur. La FTC a élargi mercredi une enquête existante sur les entreprises d'IA, sondant Anthropic, OpenAI et d'autres laboratoires sur les risques posés par leur technologie.