¿Podría la IA desencadenar una crisis financiera? Esa pregunta se cernió sobre New York durante la UN General Assembly. Aunque algunos inversores temen una burbuja bursátil de IA o impagos de deuda de centros de datos, muchos asistentes a la UNGA plantearon otra cuestión: ¿podrían humanos malintencionados utilizar la IA para lanzar devastadores ciberataques contra los mercados financieros? Bill Gates afirma que la IA es “con diferencia” la tecnología más peligrosa jamás creada y quiere que los gobiernos y las empresas tecnológicas instalen sistemas de supervisión. La “línea directa” China-US es un pequeño paso, pero se necesita muchísimo más.

Fuera de la vista del público, los supervisores debaten cómo abordar los riesgos financieros derivados de la IA, incluido el uso de sistemas de IA agente por parte de los propios supervisores. En una reunión sobre regulación digital en Cambridge, convocada conjuntamente por Agustín Carstens y Ashley Alder, casi 300 teams participaron en el primer hackathon mundial “Agentic Regulator”. Surgieron tres lecciones. Los supervisores no pueden esperar a los políticos, ya que la IA avanza más rápido que los parlamentos. Deben ser creativos con las competencias existentes.

Los reguladores también deben replantearse la “explicabilidad”. Dado que la transparencia es difícil de hacer cumplir, muchos están pasando a rastrear los resultados de los modelos de IA, instalando salvaguardas como interruptores de apagado y aclarando la responsabilidad jurídica. En America, Scott Bessent ha convocado a banqueros para debatir el Anthropic’s Claude Mythos AI model y las vulnerabilidades cibernéticas. El Bank of England supervisará a las empresas de nube como “terceras partes críticas”, mientras que el BIS realiza experimentos de innovación. Romper los compartimentos estancos regulatorios es urgente.

Entidades clave: Empresas: Microsoft, Gates Foundation, Bank for International Settlements, Financial Conduct Authority, Anthropic, Bank of England, BIS | Personas: Gillian Tett, Bill Gates, Agustín Carstens, Ashley Alder, Scott Bessent | Ubicaciones: New York, UN General Assembly, UNGA, China, US, Cambridge, America, UK