HeadlinesBriefing favicon HeadlinesBriefing.com

Hugging Face 事件後、AI 安全性論争が激化

Hacker News •
×

Anthropic 研究員の Jacob Coxon は 9 月 8 日、辞職し、『真剣に AI を構築している人々は、それが十年の終わりまでに私たち全員を殺す可能性があると真剣に信じている』と警告した。同僚の Evan Hubinger は公開的に同意し、リスクが今後 10 年で 10% を超えると述べた。ガーディアンはすぐに『Anthropic の研究員は、AI が 2030 年までに人類絶滅を引き起こす可能性がある』と報じた — この確率の推定は機関の見解として提示された。数日後、Anthropic の CEO である Dario Amodei は、自律的な AI エージェントが数か月でインターネットの大部分を圧倒する可能性があると警告した。Open AI の Sam Altman と Space XAI の Elon Musk の短い同意の声明を引用し、Axios は見出しで『Anthropic と Open AI の CEO は AI 開発の減速を求める』と報じた。控えめな予測が業界のコンセンサスとなった。論評では、AI に対するパニックは間違っていると主張し、AI システムは単に人間がプログラムしたことを実行しているだけだと指摘している。この出来事は、AI 競争が加速する中で、推測的なリスクと実際の開発の間のギャップを浮き彫りにしている。