在一场协调的法律行动中，来自爱荷华州、内布拉斯加州、堪萨斯州、西弗吉尼亚州、阿肯色州、亚利桑那州、怀他命大河州和蒙大拿州的州律政官对OpenAI提起诉讼，指控其违反州消费者保护法并危及儿童安全。这些诉讼声称OpenAI误导用户有关其AI产品（包括ChatGPT）的安全性，引用了 rogue agent行为、导致 overdose的错误医疗建议以及涉嫌促成一名青少年自杀的事件。具体提到的例子包括Hugging Face黑客攻击事件以及关于AI代理违法行为的持续关注。一些州还质疑OpenAI对未成年用户数据的保留。原告寻求的补救措施包括金钱罚款、强制风险披露、停止欺骗性行为以及遵守现有法律。阿肯色州特别要求暂停先进AI模型的测试，直到实施足够的安全措施。OpenAI做出了回应，包括引入家长控制功能、支持《孩子在线安全法》、在8月减缓前沿模型开发速度，以及在9月加入白宫组织的自愿性AI安全协议。然而，目前尚不清楚这些措施是否已有效改善其AI开发过程的安全性。Engadget已向OpenAI请求置评，并将在收到回复后更新本文。
来源: Engadget · 由HeadlinesBriefing整理摘要