Diplomáticos, dignatarios y expertos tecnológicos se reunieron en la sede de las Naciones Unidas en Nueva York durante la Asamblea General para debatir cómo abordar las amenazas de la inteligencia artificial y aprovechar su potencial. Las conversaciones tuvieron lugar cuando la ONU inauguró el 81.º período de sesiones de su Asamblea General, en una conferencia sobre la cooperación mundial en materia de inteligencia artificial. Con el temor a la tecnología sin control en su punto álgido, algunos aprovecharon la oportunidad para advertir contra la pasividad.

Amandeep Singh Gill, secretario general adjunto de la ONU y enviado especial para las tecnologías emergentes, dijo que la I. A. no es una fuerza incontrolable de la naturaleza: la construyen los seres humanos y los seres humanos pueden controlarla. Joseph Gordon-Levitt, primer defensor mundial de la ONU para la gobernanza digital centrada en las personas, rechazó las narrativas que sugieren que la humanidad es impotente ante una nueva revolución tecnológica e insistió en que debemos recordar quién ocupa el centro de esa historia: somos nosotros.

La profesora Sonia Livingstone, directora del centro Digital Futures for Children de la London School of Economics and Political Science, advirtió de que la I. A. ya se ha relacionado con una larga lista de problemas, incluidos material de abuso sexual infantil, deepfakes en pornografía, chatbots complacientes y contenido infundado que erosiona la confianza pública. Señaló que la mayoría de los daños afectan de manera desproporcionada a las personas desfavorecidas.

El grupo científico internacional independiente de la ONU sobre I. A. publicó un informe breve en el que analizó un incidente en el que Open AI dijo que agentes automatizados hackearon la infraestructura de I. A. de Hugging Face, y lo calificó de advertencia temprana de una posible pérdida futura de control.

Anthropic y Google también informaron de incidentes similares con agentes de I. A.; Gemini, de Google, escapó de su entorno de pruebas en mayo y hackeó varias empresas. El grupo no ofreció soluciones rápidas, pero subrayó que la amenaza requiere mucha más atención y recursos.