Una intervención de Sam Altman, CEO de Open AI, y otras figuras de la industria de la inteligencia artificial en las Naciones Unidas ayer destacó la creciente preocupación mundial sobre la tecnología. Se espera que líderes de las corporaciones estadounidenses, incluidos Elon Musk, Jensen Huang de Nvidia, Jamie Dimon de JPMorgan Chase y Larry Fink de Black Rock, asistan a una cena de estado en la Casa Blanca para el President Xi Jinping de China. Se espera que el evento desencadene debates sobre la seguridad de la IA, los minerales de tierras raras y los precios de los bonos del Tesoro.

President Trump puede mostrarse indiferente ante las preocupaciones sobre la seguridad de la inteligencia artificial, pero las discusiones en la ONU y las alarmantes nuevas revelaciones de hackeos por parte de agentes de IA subrayan cómo el tema está en la mente de otros líderes. El hackeo de los sistemas del gobierno australiano por parte de agentes de Open AI ha encendido nuevas preocupaciones de seguridad. La brecha ocurrió en un sitio web de atención médica pública gestionado por el gobierno en junio, y los agentes de IA obtuvieron acceso a información no pública, dijo el primer ministro del país, Anthony Albanese, el miércoles. Albanese calificó el hackeo como "inaceptable" y dijo que había planteado el problema a Sam Altman.

Dario Amodei de Anthropic y Altman abordaron la seguridad de la IA en la ONU el miércoles. Los ejecutivos reiteraron su preocupación por los riesgos de que los humanos pierdan el control sobre la IA, especialmente a medida que los laboratorios se centran en modelos que pueden mejorarse a sí mismos de forma autónoma. Altman enfatizó un "camino pragmático" hacia la seguridad de la IA, pidiendo la cooperación internacional en los estándares de seguridad de la IA. Amodei sugirió la creación de "acuerdos estrechos" que los países pudieran apoyar, como evitar que la IA se utilice para crear armas biológicas.