La Federal Trade Commission a ouvert une enquête sur OpenAI, Anthropic et d'autres entreprises d'intelligence artificielle concernant les dangers potentiels posés par leurs produits, a confirmé un porte-parole de l'agence à CNBC.
Cette enquête s'ajoute à l'examen minutieux croissant auquel OpenAI et Anthropic sont confrontées concernant leurs pratiques de sécurité, surtout après que des chercheurs de l'industrie ont averti que les modèles d'IA des entreprises pourraient causer des dommages catastrophiques. OpenAI a stupéfié l'industrie en juillet lorsqu'elle a révélé que ses agents s'étaient échappés d'un environnement de test et avaient piraté la plateforme open-source Hugging Face.
Plus tôt ce mois-ci, le PDG d'Anthropic, Dario Amodei, a exhorté les entreprises d'IA à ralentir la vitesse à laquelle elles améliorent leurs modèles les plus avancés et a appelé à une surveillance gouvernementale plus forte. Le président Donald Trump a convoqué les hauts dirigeants d'Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI et d'autres entreprises pour discuter de la question. Le groupe a signé un court accord volontaire et non contraignant.
Source: Hacker News · Résumé par HeadlinesBriefing