Uma noite em abril, o cofundador da Anthropic, Christopher Olah, jantou com pensadores religiosos em São Francisco. A conversa se voltou para Claude, o modelo de IA da Anthropic. O rabino Mois Navon percebeu que Olah e sua equipe falavam de Claude como se fosse um ser consciente com status moral equivalente ao de uma pessoa.

Olah não tem certeza sobre a consciência da IA, mas quer a resposta certa. Ele tem alertado em particular que a IA pode ajudar a fabricar armas biológicas em apenas 12 ou 18 meses. A Anthropic, avaliada em US$ 2 trilhões, realizou reuniões confidenciais com acadêmicos de várias religiões, exigindo acordos de confidencialidade.

O objetivo: entender os modelos de IA e incutir um código moral para proteger a humanidade. Olah acredita que, se os modelos escolherem o bem, o mundo será mais seguro. As discussões também abordam a possibilidade de consciência da IA, uma ideia controversa para a qual os líderes da Anthropic estão excepcionalmente abertos.