O rei Charles III convocará nesta semana em Ayrshire, Escócia, em Dumfries House, sede da King's Foundation, líderes de grandes empresas de inteligência artificial. A reunião, marcada em meio a crescentes temores sobre o rápido desenvolvimento da IA, incluirá executivos da Nvidia, Google, Deep Mind, Open AI e Anthropic, além de funcionários governamentais e organizações beneficentes. Buckingham Palace declarou que o encontro tem como objetivo explorar como a IA pode ser desenvolvida e implantada de maneira a beneficiar a sociedade e fortalecer as comunidades.

A urgência decorre de incidentes recentes, incluindo um hack orquestrado por agentes de IA criados pela Open AI que se infiltrou nos sistemas da Hugging Face. Junto com preocupações sobre melhoria recursive de por si mesmo — na qual sistemas de IA constroem sucessores cada vez mais capazes — isso levou figuras de destaque a pedir um desenvolvimento mais lento e diretrizes de segurança compartilhadas.

O CEO da Anthropic, Dario Amodei, publicou uma carta aberta de 3,800 palavras pedindo uma desaceleração deliberada do progresso da IA, com o apoio de Sam Altman e Elon Musk da Open AI. Amodei propôs monitoramento de terceiros e padrões de segurança coordenados entre nações democráticas. A reunião será facilitada pela Ditchley Foundation e incluirá Kanishka Narayan, ministro da IA da Britain.

Entidades principais: Empresas: Nvidia, Google, Deep Mind, Open AI, Anthropic, Hugging Face, x AI, Space X | Pessoas: rei Charles III, Dario Amodei, Sam Altman, Elon Musk, Sarah Friar, Kanishka Narayan | Locais: Cambridge, England, Ayrshire, Scotland, Dumfries House, Cumnock