O Rei Carlos alertou para os 'perigos existenciais' de uma IA que avança rapidamente durante uma reunião em Dumfries House, instando os líderes de tecnologia a priorizar a segurança. Esta intervenção precede o primeiro encontro cara a cara entre o Primeiro-Ministro do Reino Unido, Andy Burnham, e o Presidente dos Estados Unidos, Donald Trump, na Assembleia Geral das Nações Unidas. O Rei Carlos reuniu executivos da Nvidia, Anthropic, Google DeepMind e OpenAI, enfatizando que a IA deve permanecer ao 'serviço da humanidade'. Pesquisadores e figuras da indústria, incluindo Sam Altman e Elon Musk, recentemente apoiaram chamados para retardar o desenvolvimento. O ministro britânico de IA, Kanishka Narayan, participou, enquanto Tino Cuéllar da Anthropic elogiou a iniciativa do Rei. O chefe de IA da Microsoft, Mustafa Suleyman, alertou contra AIs autônomas competindo por recursos, advertindo sobre o surgimento de uma 'nova espécie de silício'. O Vaticano foi representado pelo Padre Paolo Benanti, alinhando-se com a encíclica recente do Papa Leão XIV sobre a proteção dos humanos na era da IA.

O alerta do Rei Carlos ressalta a crescente pressão política para regular a IA enquanto os líderes globais se reúnem. A reunião na sede escocesa do Rei teve como objetivo estabelecer princípios compartilhados para a cooperação internacional. Dado o histórico de Trump de resistir a regulamentações mais rigorosas de IA, as discussões futuras de Burnham enfrentarão um escrutínio significativo sobre os futuros marcos de governança.

Entidades-chave: Empresas: Nvidia, Anthropic, Google DeepMind, OpenAI, Microsoft | Pessoas: Rei Carlos, Andy Burnham, Donald Trump, Dario Amodei, Sam Altman, Elon Musk, Kanishka Narayan, Tino Cuéllar, Padre Paolo Benanti, Papa Leão XIV, Mustafa Suleyman | Locais: Dumfries House, Escócia, Nova York, Assembleia Geral das Nações Unidas