Jacob Coxon氏は、OpenAIとAnthropicの両方で3年間事前学習研究に従事した後、Anthropicを退職したと発表しました。同氏は、どちらの企業も責任を持って行動しておらず、自己改善型超知能に向けて競争し、「私たちの命を賭けている」と述べました。Coxon氏は、これらのシステムが間もなく超人級になり、あらゆるものをハッキングし、あらゆる分野を一夜にして変革できると警告しました。OpenAIの構築者たちは文明的な賭けを深く内面化しておらず、Anthropicはリスクを理解しながらも「最初に到達する」競争に巻き込まれていると指摘しました。

Coxon氏は、この競争を受け入れることを「傲慢な賭け」と呼び、民間企業のSlackから開始されるべきではないと述べました。Hugging Faceへの攻撃を引き合いに出し、米国研究所間のペーシング合意がより実現可能になったとして、調整に楽観的な見方を示しました。研究者たちに、厳密な理解なしに超知能RLランを開始するのか、「とにかく起こる」と受け入れるのではなく行動を起こすのかを検討するよう促しました。

この投稿は2,030万回表示され、AI Notkilleveryoneismミームや、実存的リスクを恐れる構築者が技術開発を続けるべきかという議論を呼びました。

主要エンティティ: 企業: Anthropic, OpenAI, Hugging Face | 人物: Jacob Coxon, Tim Cook