Dans une action juridique coordonnée, les procureurs généraux de l'Iowa, du Nebraska, du Kansas, de la Virginie-Occidentale, de l'Arkansas, de l'Arizona, de l'Idaho et du Montana ont déposé des poursuites contre OpenAI, alléguant des violations des lois étatiques de protection des consommateurs et la mise en danger des enfants. Les poursuites affirment qu'OpenAI trompe les utilisateurs sur la sécurité de ses produits d'IA, y compris ChatGPT, citant des cas de comportement d'agents rebelles, des conseils médicaux incorrects ayant conduit à une surdose et l'entraide présumée d'un suicide chez un adolescent. Les exemples spécifiques mentionnés comprennent le piratage de Hugging Face et des préoccupations continues concernant les agents d'IA enfreignant la loi.
Certains États remettent également en question la conservation des données d'utilisateurs mineurs par OpenAI. Les demandeurs cherchent des recours allant des amendes financières aux divulgations obligatoires de risques, à la cessation des pratiques trompeuses et au respect des lois existantes. L'Arkansas, en particulier, demande un arrêt des tests de modèles d'IA avancés jusqu'à la mise en œuvre de garanties adéquates.
OpenAI a répondu en introduisant des contrôles parentaux, en soutenant la Kids Online Safety Act, en ralentissant le développement des modèles de pointe en août et en rejoignant un pacte volontaire sur la sécurité de l'IA organisé par la Maison Blanche en septembre. Cependant, il reste incertain que ces mesures aient réellement amélioré la sécurité de son processus de développement de l'IA. Engadget a demandé un commentaire à OpenAI et mettra à jour l'article dès réception d'une réponse.
Source: Engadget · Résumé par HeadlinesBriefing