HeadlinesBriefing favicon HeadlinesBriefing.com

Défis du Kill Switch IA et Efforts du Congrès

New York Times Top Stories •
×

Un groupe bipartisan au Congrès et le gouverneur de Californie, Gavin Newsom, ont proposé de construire un mécanisme pour éteindre instantanément les systèmes d'IA incontrôlables, mais les experts affirment que créer un kill switch est plus difficile qu'on ne le pense. Les systèmes d'IA sont souvent répartis sur plusieurs ordinateurs et centres de données, ce qui rend inexistante une seule 'prise'. Helen Toner du Center for Security and Emerging Technology de Georgetown a noté que ces systèmes pourraient être vulnérables aux pirates informatiques ou même démonter le commutateur eux-mêmes.

Vinh Nguyen du Council on Foreign Relations a comparé les risques du kill switch aux portes dérobées des smartphones. Malgré l'enlisement des projets de loi fédéraux, Newsom a signé un décret exécutif pour étudier les kill switch d'IA après avoir auparavant opposé son veto à une législation similaire. Les représentants Ted Lieu et Nathaniel Moran parrainent le Kill Switch Act, qui oblige les grands laboratoires comme Open AI, Anthropic et Meta à intégrer des mécanismes d'arrêt, en mettant l'accent sur le contrôle humain de l'IA.