La Commission fédérale du commerce des États-Unis élargit son enquête sur Anthropic, OpenAI et d'autres entreprises d'intelligence artificielle à la lumière de récents incidents de piratage. Le régulateur exigera des informations et des témoignages des cadres suprême. L'enquête vise également MET R, un groupe de recherche en sécurité de l'IA accusé d'avoir des liens avec les investisseurs d'Anthropic.
C'est la première action réglementaire officielle portant sur les agents d'IA défaillants dans le contexte des risques de l'industrie. L'élargissement de l'enquête fait suite à une réunion à la Maison Blanche où le président Trump a réuni les cadres d'IA. Par la suite, Anthropic, OpenAI et quatre autres laboratoires ont signé un accord de sous-traitance pour surveiller les menaces de cybersécurité et de biosecurité.
Malgré ces mesures, la Maison Blanche affirme que les lois existantes suffisent à limiter les dommages des modèles de pointe. La FTC pourrait potentiellement utiliser les violations de l'accord comme preuve dans des affaires de pratiques trompeuses. Parallèlement, le PDG d'OpenAI, Sam Altman, a manqué à une audience parlementaire sur les agents d'IA défaillants, invitée par le sénateur Josh Hawley.
Le procureur général de la Floride a également déposé une action contre OpenAI et déposé une demande visant à suspendre le développement de modèles avancés jusqu'à ce que des garde-fous de sécurité tierces soient mis en œuvre.
Source: Financial Times Companies · Résumé par HeadlinesBriefing