Wenn Sorgen über KI-Sicherheit und das Ende der Welt kürzlich in Ihr Leben getreten sind, liegt das wahrscheinlich an einem Rücktrittsschreiben. Am 8. September 2026 kündigte ein Forscher namens Jacob Coxon bei Anthropic, einem der beiden führenden KI-Labore in den USA, dessen Marke versucht hat, das Image des Vorsichtigen im Vergleich zu seinen Konkurrenten zu pflegen. Er hatte die drei Jahre zuvor mit Pretraining-Forschung bei Open AI und dann bei Anthropic verbracht, der Maschinenraum-Arbeit, die große Modelle fähig macht, und seine Abschiedsnotiz sagte unter anderem: „Die Menschen, die KI bauen, glauben aufrichtig, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte. Das ist kein Marketing-Gag.“ Er ging zwei Monate vor der Vesting seiner Anteile und verzichtete darauf. Der Beitrag wurde innerhalb eines Tages über hundert Millionen Mal angesehen. Seine Kollegen beeilten sich überraschenderweise nicht, ihn zu korrigieren. Evan Hubinger, der die Alignment-Wissenschaft bei Anthropic leitet, postete innerhalb von Stunden, dass Coxon recht habe, dass sie wirklich aufrichtig glauben, KI könnte alle Menschen töten, und dass seine persönlichen Chancen irgendwo über eins zu zehn innerhalb eines Jahrzehnts lägen. Mehr als zwei Dutzend Kongressmitglieder sagten, es müsse etwas getan werden. Elon Musk, der sein eigenes Frontier-Labor baut, nannte die ganze Sache eine Psy-Op, und Mainstream-Nachrichtenmedien berichteten vorhersehbar atemlos über den darauffolgenden Taumel.

Um die Schwere dieser Warnung realistisch einzuschätzen, müssen wir die Menschen verstehen, die sie aussprechen. Die lautesten Stimmen, die vor dem Ende der Welt warnen, kommen aus einer sehr spezifischen fünfundzwanzig Jahre alten Internet-Subkultur, die sich selbst als eine Gemeinschaft von Menschen versteht, die klarer denken als alle anderen. Außerhalb des Silicon Valley wirkt die Subkultur obskur, ein Fandom mit ungewöhnlich nerdigen literarischen Vorlieben. Innerhalb der Technologiebranche ist sie alles andere als das. Ihre Autoren machen oder brechen Reputationen. Ihre Alumni besetzen die Labore, die Sicherheitsinstitute und die philanthropischen Organisationen, die entscheiden, was „KI-Sicherheit“ bedeutet. Ihre Argumente, Ehen, Fehden und sexuellen Neigungen sind stark in die Struktur der Organisationen verwoben, die jetzt das Vertrauen der Öffentlichkeit in die Zukunft der Spezies erbitten.

Zehn Monate bevor Coxon kündigte, im Dezember 2025, versammelten sich fast fünfhundert Menschen in einem Musiksaal in Berkeley zu einer Zeremonie über das mögliche Ende der Menschheit. Es gab eine Live-Band und einen achtundzwanzigköpfigen Chor. Es gab liturgische Lesungen. Während Lieder und Reden den Raum von der fernen Vergangenheit der Menschheit in ihre ungewisse Zukunft trugen, dimmten die Kronleuchter einer nach dem anderen. Mitarbeiter von Organisationen, die künstliche Intelligenz bauen oder eindämmen wollen, waren stark vertreten. Am dunkelsten Punkt setzte sich der Organisator an den Bühnenrand, seine Stimme brach, und er sagte zum Raum: „Leute… ich glaube nicht, dass wir es schaffen.“ Der Organisator war Raymond Arnold, ein Webentwickler, Spieldesigner, Musiker und langjähriger Erbauer rationalistischer Gemeinschaftsinstitutionen. Aufgewachsen zwischen Katholizismus und Atheismus, entdeckte Arnold als junger Erwachsener die rationalistische Bewegung und fand, dass sie sein Vermögen für heiliges Gefühl „radikal erweiterte“. 2011 lud er neunzehn Freunde in eine New Yorker Wohnung ein, die für den Abend mit Öllampen, Plasmakugeln und Lichtschwertern eingerichtet war, um einen Feiertag für ihre neue Weltanschauung zu beta-testen. Sie sangen über die ersten Winterlagerfeuer und die Technologien, die die Zukunft der Menschheit prägen, löschten die letzte Kerze und saßen gemeinsam im Dunkeln. Zwei Jahre später verwandelte Arnold das Experiment in eine öffentliche Produktion namens Brighter Than Today. Versionen verbreiteten sich bald von New York und der Bay Area in Städte in ganz Nordamerika, Europa und darüber hinaus. Arnold hatte die Säkulare Sonnenwende ursprünglich als einen breiten humanistischen Feiertag konzipiert, aber sie wurde zum Hauptfesttag des rationalistischen Kalenders. Das war nicht ganz zufällig. Er organisiert die Gemeinschaft seit 2011, hilft jetzt, sowohl Less Wrong als auch Lighthaven zu leiten—den Berkeley-Konferenzcampus, der als ihr physi... dient.