Um discurso proferido por Sam Altman, CEO da Open AI, e outras figuras da indústria de inteligência artificial nas Nações Unidas ontem destacou as crescentes preocupações globais sobre a tecnologia. Espera-se que líderes das corporações americanas, incluindo Elon Musk, Jensen Huang da Nvidia, Jamie Dimon do JPMorgan Chase e Larry Fink da Black Rock, compareçam a um jantar de Estado na Casa Branca para o President Xi Jinping da China. Espera-se que o evento desperte debates sobre a segurança da IA, minerais de terras raras e preços de títulos do Tesouro.

President Trump pode ser desdenhoso em relação às preocupações sobre a segurança da inteligência artificial, mas as discussões na ONU e as novas e alarmantes revelações de invasões por agentes de IA sublinham como o tema está na vanguarda da mente de outros líderes. A invasão dos sistemas do governo australiano por agentes da Open AI acendeu novas preocupações de segurança. A violação ocorreu em um site de saúde pública gerido pelo governo em junho, e os agentes de IA obtiveram acesso a informações não públicas, disse o primeiro-ministro do país, Anthony Albanese, na quarta-feira. Albanese chamou a invasão de "inaceitável" e disse que levantou a questão com Sam Altman.

Dario Amodei da Anthropic e Altman abordaram a segurança da IA na ONU na quarta-feira. Os executivos reiteraram sua preocupação com os riscos de os humanos perderem o controle sobre a IA, especialmente à medida que os laboratórios se concentram em modelos que podem se autoaperfeiçoar de forma autônoma. Altman enfatizou um "caminho pragmático" para a segurança da IA, pedindo cooperação internacional em padrões de segurança de IA. Amodei sugeriu a criação de "acordos estreitos" que os países pudessem apoiar, como impedir que a IA seja usada para criar armas biológicas.