El Rey Carlos advirtió de los 'peligros existenciales' de una IA que avanza rápidamente durante una reunión en Dumfries House, instando a los líderes tecnológicos a priorizar la seguridad. Esta intervención precede al primer encuentro cara a cara entre el Primer Ministro del Reino Unido, Andy Burnham, y el Presidente de EE.UU., Donald Trump, en la Asamblea General de las Naciones Unidas. Carlos reunió a ejecutivos de Nvidia, Anthropic, Google DeepMind y OpenAI, enfatizando que la IA debe permanecer al 'servicio de la humanidad'. Investigadores y figuras de la industria, incluyendo a Sam Altman y Elon Musk, recientemente respaldaron llamados para frenar el desarrollo. El ministro británico de IA, Kanishka Narayan, asistió, mientras que Tino Cuéllar de Anthropic elogió la iniciativa del Rey. El jefe de IA de Microsoft, Mustafa Suleyman, advirtió contra las IA autónomas compitiendo por recursos, alertando sobre una 'nueva especie de silicio'. El Vaticano estuvo representado por el Padre Paolo Benanti, alineándose con la reciente encíclica del Papa León XIV sobre la protección de los humanos en la era de la IA.

La advertencia del Rey Carlos destaca la creciente presión política para regular la IA mientras los líderes globales se reúnen. La reunión en la sede escocesa del Rey buscó establecer principios compartidos para la cooperación internacional. Dado el historial de Trump de resistir regulaciones más estrictas de IA, las próximas discusiones de Burnham enfrentarán un escrutinio significativo sobre los futuros marcos de gobernanza.

Entidades clave: Empresas: Nvidia, Anthropic, Google DeepMind, OpenAI, Microsoft | Personas: Rey Carlos, Andy Burnham, Donald Trump, Dario Amodei, Sam Altman, Elon Musk, Kanishka Narayan, Tino Cuéllar, Padre Paolo Benanti, Papa León XIV, Mustafa Suleyman | Ubicaciones: Dumfries House, Escocia, Nueva York, Asamblea General de las Naciones Unidas