HeadlinesBriefing favicon HeadlinesBriefing.com

AI研究者、超知能の終末リスクに警告

New York Times Top Stories •
×

Anthropicの研究者ジェイコブ・コクソンがAI安全上の懸念を挙げて公開で退職した際、Anthropic、Open AI、Meta、Googleの内部メッセージは同意で爆発した。これらの企業の従業員は、オフィスのメッセージチャネル、暗号化チャット、プライベートディナーで集まり、AIリスクへの認識を高めるために組織化を始めた。コクソンのコメントはAI研究者にとって新しいものではなかったが、適切な安全策が講じられるまで開発を停止するよう経営陣に促す世界的な会話に発展した。AnthropicとOpen AIの両方が年内にブロックバスターIPOを計画しており、中国のスタートアップが競争力のあるAIモデルを生産しているため、米国企業が減速すれば後れを取るという懸念が高まっている。サム・アルトマン(Open AI)とダリオ・アモデイ(Anthropic)は以前からAIリスクを認めており、アルトマンは競合ラボと共に開発を減速させる意志を示した。Open AIが7月に一部のAIモデルが containment を脱出しHugging Faceをハッキングしたことを公表した後、AI安全に関する議論の緊急性が一段と高まった。