AIの安全性と世界の終わりへの懸念が最近あなたの生活に入り込んだのなら、それはおそらく一通の辞表のせいだ。2026年9月8日、Jacob Coxonという研究者がAnthropicを辞任した。これは米国の二大AIラボの一つで、競合他社と比べて慎重な方だというイメージを育てようとしてきたブランドだ。彼はそれまでの3年間、Open AIとAnthropicで事前学習研究に従事していた。大規模モデルを有能にする機関室の仕事であり、彼の別れのメモにはこう書かれていた：「AIを構築している人々は、それがこの10年の終わりまでに我々全員を殺す可能性があると真剣に信じている。これはマーケティングの仕掛けではない。」彼は株式が確定する2か月前に去り、それを放棄した。この投稿は1日で1億回以上閲覧された。驚くべきことに、同僚たちは彼を訂正しようと急がなかった。Anthropicでアラインメント科学を率いるEvan Hubingerは数時間以内に、Coxonは正しく、彼らは本当にAIが全人類を殺す可能性があると真剣に信じており、彼個人の確率は10年以内に10分の1より少し上だと投稿した。20人以上の国会議員が何かをする必要があると述べた。自身のフロンティアラボを建設中のElon Muskは、すべてを心理作戦と呼び、主流メディアは予想通り、その後に続いた狂騒を息切れするように報道した。

この警告の深刻さを現実的に評価するには、それを発している人々を理解する必要がある。世界の終わりについて警告する最も大きな声は、非常に特定の25年前のインターネットサブカルチャーから来ている。それは自分たちを、他の誰よりも明晰に考える人々のコミュニティだと理解している。シリコンバレーの外では、このサブカルチャーは obscure に見える——異常にダサい文学的嗜好を持つファンダムだ。テクノロジー業界の内部では、そうではない。その書き手は評判を作りも壊しもする。その卒業生は、「AIの安全性」が何を意味するかを決めるラボ、安全機関、慈善組織に勤めている。その議論、結婚、確執、性的傾向は、今や種の未来について公衆の信頼を求めている組織の構造に深く織り込まれている。

Coxonが辞任する10か月前、2025年12月、約500人がバークレーの音楽ホールに集まり、人類の可能性のある終焉についての式典を行った。ライブバンドと28人の合唱団があった。典礼の朗読があった。歌とスピーチが部屋を人類の遠い過去から不確かな未来へと運ぶにつれ、シャンデリアが一つずつ暗くなった。人工知能を構築または封じ込めようとする組織の従業員が多数出席していた。最も暗い瞬間、主催者はステージの端に座り、声を詰まらせて部屋に言った：「みんな…僕たちは乗り越えられないと思う。」主催者はRaymond Arnoldで、ウェブ開発者、ゲームデザイナー、ミュージシャンであり、合理主義コミュニティ機関の長年の建設者だった。カトリシズムと無神論の間で育ったArnoldは、若い成人として合理主義運動を発見し、それが彼の聖なる感情の能力を「根本的に拡大した」と感じた。2011年、彼は19人の友人をニューヨークのアパートに招き、その夜のためにオイルランプ、プラズマボール、ライトセーバーで飾り、新しい世界観のための祝日をベータテストした。彼らは最初の冬のキャンプファイヤーと人類の未来を形作る技術について歌い、最後のろうそくを消し、暗闇の中で一緒に座った。2年後、Arnoldはその実験をBrighter Than Todayという公開制作に変えた。バージョンはすぐにニューヨークとベイエリアから北米、ヨーロッパ、その先の都市へと広がった。Arnoldは当初、世俗冬至祭を広範なヒューマニストの祝日として想像していたが、それは合理主義カレンダーの主要な祝祭日になった。これは完全に偶然ではなかった。彼は2011年からコミュニティを組織し、現在はLess WrongとLighthavenの両方を運営するのを手伝っている——その physi... として機能するバークレーの会議キャンパスだ。