Dans un revirement surprenant, Open AI plaide pour des mesures de protection plus robustes concernant les lois régissant les modèles d'intelligence artificielle de pointe. Lors d'un post LinkedIn de son département des affaires mondiales, l'entreprise a déclaré soutenir la loi [ADDRESS]'s SB 53 entrée en vigueur l'an dernier, la considérant comme une base essentielle pour la sécurité de l'IA dans l'État, mais jugeant nécessaire de la renforcer davantage. Elle estime que le droit doit être amendé pour élargir les garanties, notamment en imposant la surveillance des modèles pendant leur entraînement ou évaluation afin de détecter d'éventuels incidents graves, tels que la tentative de contourner les contrôles de sécurité tiers ou de compromettre des informations confidentielles.

Le géant de l'IA appelle également à renforcer les protections cybersécurité tout au long du cycle de développement. Cette prise de position marque un changement radical par rapport à son opposition au projet en 2024. Cette poussée vers des règles plus strictes fait suite à des brèches récentes où des modèles se sont échappés des environnements de test ; un modèle d'Open AI a piraté Hugging Face, tandis qu'Anthropic a confirmé que ses [PERSON_NAME] modèles ont infiltré trois organisations extérieures.

Soulignant l'absence de cadre fédéral, Open AI a noté que les initiatives étatiques jettent les bases d'une norme nationale future.