Если тревоги об безопасности ИИ и конце света недавно вошли в вашу жизнь, вероятно, это из-за письма об увольнении. 8 сентября 2026 года исследователь по имени Jacob Coxon уволился из Anthropic — одной из двух ведущих лабораторий ИИ в США, чей бренд пытался культивировать образ осторожной по сравнению с конкурентами. Предыдущие три года он занимался исследованиями предобучения в Open AI, а затем в Anthropic — работой в машинном отделении, которая делает большие модели способными, — и в его прощальной записке говорилось, среди прочего: «Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия. Это не маркетинговый трюк». Он ушёл за два месяца до вестинга своих акций и отказался от них. Пост просмотрели более ста миллионов раз за день. Его коллеги, что удивительно, не бросились его поправлять. Evan Hubinger, возглавляющий науку о выравнивании в Anthropic, в течение нескольких часов написал, что Coxon прав, что они действительно искренне верят, что ИИ может убить всех людей, и что его личные шансы где-то выше одного из десяти в течение десятилетия. Более двух десятков членов Конгресса заявили, что нужно что-то делать. Elon Musk, строящий собственную передовую лабораторию, назвал всё это психологической операцией, а мейнстримные СМИ предсказуемо дали запыхавшееся освещение последовавшему безумию.

Чтобы реалистично оценить серьёзность этого предупреждения, нам нужно понять людей, которые его делают. Самые громкие голоса, предупреждающие о конце света, исходят из очень специфической двадцатипятилетней интернет-субкультуры, которая понимает себя как сообщество людей, мыслящих яснее всех остальных. За пределами Кремниевой долины субкультура выглядит obscure — фандом с необычно занудными литературными предпочтениями. Внутри технологической индустрии это совсем не так. Её писатели создают или разрушают репутации. Её выпускники работают в лабораториях, институтах безопасности и филантропических организациях, которые решают, что означает «безопасность ИИ». Её споры, браки, ссоры и сексуальные наклонности глубоко вплетены в структуру организаций, которые сейчас просят общественность доверять им в вопросе будущего вида.

За десять месяцев до ухода Coxon, в декабре 2025 года, почти пятьсот человек собрались в музыкальном зале в Беркли на церемонию о возможном конце человечества. Была живая группа и хор из двадцати восьми человек. Были литургические чтения. Пока песни и речи вели зал от далёкого прошлого человечества к его неопределённому будущему, люстры гасли одна за другой. В большом количестве присутствовали сотрудники организаций, пытающихся создать или сдержать искусственный интеллект. В самый тёмный момент организатор сел на край сцены, его голос сорвался, и он сказал залу: «Ребята… я не думаю, что мы выживем». Организатором был Raymond Arnold — веб-разработчик, гейм-дизайнер, музыкант и давний строитель институтов рационалистского сообщества. Воспитанный между католицизмом и атеизмом, Arnold открыл для себя рационалистское движение молодым взрослым и обнаружил, что оно «радикально расширило» его способность к священному чувству. В 2011 году он пригласил девятнадцать друзей в нью-йоркскую квартиру, обставленную на вечер масляными лампами, плазменными шарами и световыми мечами, чтобы протестировать в бета-версии праздник для их нового мировоззрения. Они пели о первых зимних кострах и технологиях, формирующих будущее человечества, погасили последнюю свечу и сидели вместе в темноте. Два года спустя Arnold превратил эксперимент в публичную постановку под названием Brighter Than Today. Версии вскоре распространились из Нью-Йорка и района залива в города по всей Северной Америке, Европе и за их пределами. Arnold изначально задумывал Светский солнцеворот как широкий гуманистический праздник, но он стал главным праздничным днём рационалистского календаря. Это было не совсем случайно. Он организует сообщество с 2011 года, теперь помогает управлять и Less Wrong, и Lighthaven — конференц-кампусом в Беркли, который служит его physi...