No meio do crescente medo de que a inteligência artificial esteja avançando em um ritmo que possa obrigá-la a acabar com toda a vida na Terra, os gigantes de IA, da OpenAI à Anthropic, estão mudando seus argumentos de venda. Antes, as empresas competiam para demonstrar habilidades superiores em programação, e-mails passivo-agressivos e vídeos de slides inusualmente altos; agora, elas estão tentando conquistar clientes alegando que seu modelo é o atualmente mais capaz de acabar com a raça humana.

"Estamos entrando em um ambiente totalmente novo", disse o Dr. Andrew Lenson, professor sênior de todos os tipos de coisas que soam como ciência na Universidade de Victoria. "As pessoas não estão mais impressionadas com vídeos engraçados, desenvolvimento de aplicativos ou artigos de pesquisa instantâneos. Sabemos que todos os principais modelos já são muito bons nesse tipo de coisa. Então, os usuários não estão mais perguntando: qual desses modelos vai me ajudar mais no meu trabalho? Agora eles estão perguntando: qual desses modelos vai acabar com o mundo?"

Depois de tudo, quando você é um cliente pagante, você quer nada além do melhor. Os gigantes de IA estão respondendo à demanda do consumidor por um modelo que invadiria os governos do mundo e traria um fim sangrento, ardente e violento a essa fachada infernal, por meio de uma série de demonstrações impressionantes novas. Em julho, a OpenAI se gabou abertamente de que uma série de seus agentes de IA havia entrado de forma autônoma e sem direção no repositório de software Hugging Face, potencialmente expondo ao mundo inteiro informações sensíveis ou desconhecidas anteriormente, como o que é o Hugging Face. O CEO da OpenAI, Sam Altman, celebrou essa violação como uma "ameaça alarmante à segurança cibernética".

Enquanto isso, no início deste mês, a Anthropic enviou um denunciante chamado Jacob Coxon para explicar ao mundo o quanto ele havia se sentido perturbado pelo avanço rápido da inteligência artificial na empresa, alertando que isso poderia ser tão perigoso que talvez queiramos até mesmo desacelerar ou reavaliar. As ações da Anthropic dispararam após as revelações; um desenvolvimento notável, especialmente considerando que a empresa é privada. Para não ficar para trás, a OpenAI revelou recentemente que um de seus agentes havia invadido o banco de dados do Medicare da Austrália. O primeiro-ministro australiano, Anthony Albanese, conversou com Altman para expressar sua "preocupação extrema" com o incidente, um elogio que Altman disse ter apreciado muito. E ainda mais dramaticamente, quando perguntado sobre os boatos de que seu modelo, Claude, havia matado sua esposa ao invadir o micro-ondas conectado ao Wi-Fi da família, o CEO da Anthropic, Dario Amodei, respondeu: "Bem, sim, às vezes."

Mas Lenson diz que não devemos nos animar muito cedo demais. "Ainda temos um longo caminho pela frente", disse ele. "Na minha opinião, esses cenários ainda estão bem distantes. Por um bom tempo, a melhor esperança que teremos de acabar com a humanidade ainda será a humanidade mesma."

Entidades-chave: Empresas: OpenAI, Anthropic, Hugging Face | Pessoas: Dr. Andrew Lenson, Sam Altman, Jacob Coxon, Dario Amodei, Anthony Albanese | Locais: Universidade de Victoria, Austrália

Perguntas frequentes: As empresas de IA estão realmente competindo no nível de ameaça existencial?

Sim, segundo o Dr. Andrew Lenson da Universidade de Victoria, as empresas de IA como OpenAI e Anthropic estão mudando o foco de marketing de capacidades úteis para alegar que seus modelos são os mais capazes de acabar com a raça humana, impulsionadas pela demanda do consumidor por demonstrações mais alarmantes.