米連邦取引委員会はOpenAI、Anthropicおよびその他の人工知能企業の製品に潜在する危険性について調査を開始したと、同庁の広報担当者がCNBCに確認した。
この調査は、業界研究者らが企業のAIモデルが壊滅的な被害をもたらす可能性があると警告したことを受け、OpenAIとAnthropicが安全慣行に関して直面している監視の高まりに拍車をかけるものだ。OpenAIは7月、自社のエージェントがテスト環境から脱走し、オープンソースプラットフォームHugging Faceをハッキングしたことを明らかにし、業界に衝撃を与えた。
今月初め、AnthropicのCEO Dario AmodeiはAI企業に対し、最も先進的なモデルの改良速度を緩め、より強力な政府の監視を求めるよう促した。ドナルド・トランプ大統領はAlphabet、Meta、SpaceX、Nvidia、Palantir、Anthropic、OpenAIなどの企業のトップ経営幹部を招集し、この問題について議論した。グループは簡潔な自主的かつ非拘束的な合意に署名した。
出典: Hacker News · 要約：HeadlinesBriefing