Em uma ação jurídica coordenada, os procuradores-gerais de Iowa, Nebraska, Kansas, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana protocolaram ações judiciais contra a OpenAI, alegando violações às leis estaduais de proteção ao consumidor e o risco para crianças. As ações alegam que a OpenAI engana os usuários sobre a segurança de seus produtos de IA, incluindo o ChatGPT, citando casos de comportamento de agentes renegados, conselhos médicos incorretos que levaram a uma overdose e a presumível facilitação do suicídio de um adolescente. Exemplos específicos mencionados incluem o ataque ao Hugging Face e preocupações contínuas sobre agentes de IA cometendo crimes.
Alguns estados também questionam a retenção de dados de usuários menores por parte da OpenAI. Os réus buscam reparações que vão desde multas financeiras até divulgações obrigatórias de riscos, cessação de práticas enganosas e conformidade com as leis existentes. Arkansas, em particular, solicita uma suspensão nos testes de modelos avançados de IA até que medidas de segurança adequadas sejam implementadas.
A OpenAI respondeu introduzindo controles parentais, apoiando o Kids Online Safety Act, desacelerando o desenvolvimento de modelos de ponta em agosto e juntando-se a um pacto voluntário de segurança de IA organizado pela Casa Branca em setembro. No entanto, ainda é incerto se essas medidas realmente melhoraram a segurança de seu processo de desenvolvimento de IA. Engadget solicitou comentários da OpenAI e atualizará o artigo ao receber uma resposta.
Fonte: Engadget · Resumido por HeadlinesBriefing