Se as preocupações com a segurança da IA e o fim do mundo entraram na sua vida recentemente, provavelmente foi por causa de uma carta de demissão. Em 8 de setembro de 2026, um pesquisador chamado Jacob Coxon pediu demissão da Anthropic, um dos dois principais laboratórios de IA nos Estados Unidos cuja marca tentou cultivar a imagem de ser o cuidadoso em relação aos seus concorrentes. Ele passou os três anos anteriores fazendo pesquisa de pré-treinamento na Open AI e depois na Anthropic, o trabalho de sala de máquinas que torna os grandes modelos capazes, e sua nota de despedida dizia, entre outras coisas: “As pessoas que constroem IA acreditam sinceramente que ela pode nos matar todos até o fim da década. Isso não é um truque de marketing.” Ele saiu dois meses antes de suas ações se consolidarem e abriu mão delas. A postagem foi vista mais de cem milhões de vezes em um dia. Seus colegas, surpreendentemente, não se apressaram em corrigi-lo. Evan Hubinger, que lidera a ciência de alinhamento na Anthropic, postou em poucas horas que Coxon estava certo, que eles realmente acreditam sinceramente que a IA pode matar todos os humanos, e que suas probabilidades pessoais eram algo acima de uma em dez em uma década. Mais de duas dúzias de membros do Congresso disseram que algo precisava ser feito. Elon Musk, que está construindo seu próprio laboratório de fronteira, chamou tudo isso de psy-op, e os veículos de imprensa mainstream deram, previsivelmente, uma cobertura ofegante ao frenesi que se seguiu.

Para avaliar realisticamente a gravidade desse aviso, precisamos entender as pessoas que o fazem. As vozes mais altas alertando sobre o fim do mundo vêm de uma subcultura de internet muito específica de vinte e cinco anos, que se entende como uma comunidade de pessoas que pensam com mais clareza do que todos os outros. Fora do Vale do Silício, a subcultura parece obscura, um fandom com preferências literárias incomumente nerds. Dentro da indústria de tecnologia, não é nada disso. Seus escritores fazem ou desfazem reputações. Seus ex-alunos trabalham nos laboratórios, nos institutos de segurança e nas organizações filantrópicas que decidem o que significa “segurança de IA”. Seus argumentos, casamentos, rixas e inclinações sexuais estão fortemente entrelaçados na estrutura das organizações que agora pedem a confiança do público sobre o futuro da espécie.

Dez meses antes de Coxon renunciar, em dezembro de 2025, quase quinhentas pessoas se reuniram em uma sala de música em Berkeley para uma cerimônia sobre o possível fim da humanidade. Havia uma banda ao vivo e um coral de vinte e oito pessoas. Havia leituras litúrgicas. Enquanto canções e discursos levavam a sala do passado distante da humanidade em direção ao seu futuro incerto, os lustres se apagaram um a um. Funcionários de organizações que tentam construir ou conter a inteligência artificial estavam fortemente presentes. No ponto mais escuro, o organizador sentou-se na beira do palco, com a voz embargada, e disse à sala: “Gente… eu não acho que vamos conseguir.” O organizador era Raymond Arnold, um desenvolvedor web, designer de jogos, músico e construtor de longa data de instituições comunitárias racionalistas. Criado entre o catolicismo e o ateísmo, Arnold descobriu o movimento racionalista quando jovem adulto e descobriu que ele “expandiu radicalmente” sua capacidade de sentimento sagrado. Em 2011, ele convidou dezenove amigos para um apartamento em Nova York mobiliado para a noite com lamparinas a óleo, bolas de plasma e sabres de luz para testar em beta um feriado para sua nova visão de mundo. Eles cantaram sobre as primeiras fogueiras de inverno e as tecnologias que moldam o futuro da humanidade, apagaram a última vela e sentaram-se juntos no escuro. Dois anos depois, Arnold transformou o experimento em uma produção pública chamada Brighter Than Today. Versões logo se espalharam de Nova York e da Bay Area para cidades em toda a América do Norte, Europa e além. Arnold inicialmente imaginou o Solstício Secular como um feriado humanista amplo, mas ele se tornou o principal dia de festa do calendário racionalista. Isso não foi inteiramente acidental. Ele organiza a comunidade desde 2011, agora ajuda a administrar tanto o Less Wrong quanto o Lighthaven—o campus de conferências de Berkeley que serve como seu physi...