L'alarme sonnée par les directeurs généraux de l'IA au sujet des produits mêmes qu'ils se sont empressés de mettre sur le marché équivaut à un aveu remarquable d'échec et à un échec spectaculaire de la gouvernance. Pourquoi, alors, les hommes politiques du monde entier demandent-ils aux mêmes PDG de parler de solutions tout en débattant de savoir si leur technologie a condamné l'humanité ? Une fois de plus, nous permettons aux dirigeants d'entreprises de dicter les termes de la discussion tout en leur demandant ce qu'il faut faire. Même la présidente de la Commission européenne, Ursula von der Leyen, dans son récent discours sur l'état de l'Union, a invité les PDG de l'IA à discuter de « comment rythmer la frontière » et « soutenir les efforts en cours de l'industrie ».

Cette ouverture envoie le mauvais signal au mauvais moment. Imaginez demander aux compagnies pétrolières de concevoir des politiques climatiques ou aux constructeurs automobiles d'établir les règles de circulation. C'est d'autant plus étrange que l'Europe dispose d'une loi complète sur l'IA, la loi sur l'IA de l'UE, qui place l'atténuation des risques au cœur de son dispositif.

Au lieu de demander aux dirigeants d'entreprises ce dont la société a besoin pour l'avenir, les dirigeants politiques devraient mieux tester leurs affirmations et s'assurer que leurs activités et leurs produits contribuent à la réussite de l'ensemble de la société. Où étaient les législateurs lorsque des centres de données ont été érigés sans transparence sur la propriété, les besoins en ressources ou l'impact sur les communautés locales ? Où était la surveillance lorsque les préoccupations de sécurité ont été mises de côté pour renforcer l'avantage concurrentiel ? La loi doit être l'ancre de toute action des dirigeants européens et doit être mise à jour lorsque les avancées technologiques le justifient. La loi sur l'IA comprend actuellement des obligations de transparence, d'évaluation et d'atténuation des risques systémiques et prévoit une surveillance des modèles à usage général.

Ce sont les éléments mêmes que de nombreux experts espèrent voir garantis par la réglementation ailleurs aussi. L'Europe ne devrait pas organiser de sommets avec les PDG de l'IA comme substitut à l'application des règles qu'elle a déjà. Appliquer les lois existantes plus vigoureusement permet une action plus immédiate.

La société a besoin d'une bien meilleure compréhension de ce qui se passe dans les laboratoires d'IA, de l'expérimentation au déploiement. Cela nous permettra de faire des évaluations de risques, d'éclairer les politiques et de rythmer, voire d'arrêter, les nouveaux lancements de modèles en conséquence. Les moratoires non contraignants négociés entre les entreprises qui devraient les observer ne nous mèneront pas à une meilleure situation.

En fait, les appels antérieurs des dirigeants de l'IA pour une pause dans le développement des modèles de pointe n'ont entraîné aucun changement dans leur comportement. Nous avons besoin d'une réinitialisation complète de la gouvernance dirigée par des dirigeants et des institutions démocratiques pour obtenir un examen indépendant et une véritable responsabilité. Dario Amodei d'Anthropic a appelé à une coalition de démocraties pour gouverner ensemble la sécurité de l'IA. En tant qu'hôte des principaux laboratoires de pointe, les États-Unis détiennent la clé d'une telle coalition.

Lorsque les entreprises américaines sont tenues responsables chez elles, l'impact se répercute dans le monde entier. Washington bénéficierait de sa propre version de l'effet Bruxelles : les règles américaines deviendraient la norme mondiale par défaut en matière de gouvernance de l'IA, de la même manière que les règles de l'UE sur la protection des données et la sécurité des produits ont façonné des normes bien au-delà de ses frontières. Cet effet ne se matérialise toutefois que si les règles ont de la substance et s'alignent sur les valeurs des autres démocraties.

S'ils veulent voir une gouvernance mondiale de l'IA, les entreprises technologiques devraient faire pression sur Washington pour des réglementations contraignantes, un revirement à 180 degrés par rapport à l'approche actuelle. Comment en sommes-nous arrivés au point où les entreprises d'IA ont convaincu les investisseurs et les marchés qu'elles construiraient l'avenir pour nous avertir en même temps qu'elles le termineraient ? Concentrons-nous plutôt sur le renforcement de la gouvernance démocratique de l'IA. Nous ne pouvons pas attendre un autre rapport d'incident avertissant d'une catastrophe.

Les pyromanes ne font pas de bons pompiers.