El plan del presidente Trump para permitir que las empresas de IA se vigilen a sí mismas llega en medio de crecientes ejemplos de que no están poniendo salvaguardas a la tecnología. Si había algo familiar en las pautas de seguridad voluntarias que el presidente Trump firmó el martes con las empresas de inteligencia artificial fronterizas del país, esta puede ser la razón: se hizo eco de un acuerdo anterior que el presidente Joseph R. Biden Jr. alcanzó con muchas de las mismas empresas hace tres años. Pero la pregunta ahora es si el tipo de marco voluntario que parecía plausible en 2023 es suficiente en 2026.
En ese entonces, el concepto central era el mismo: dado que las regulaciones federales no podían seguir el ritmo del rápido avance de los nuevos modelos de IA, las empresas acordaron establecer sistemas para monitorearse a sí mismas. "Debemos ser claros y vigilantes sobre las amenazas que surgen de las tecnologías emergentes", dijo el Sr. Biden en julio de 2023. El Sr. Trump esencialmente ofreció el mismo enfoque el martes por la tarde. "Realmente se van a vigilar mutuamente", dijo, mientras los líderes de Anthropic, Open AI, Google, Meta, Nvidia y Space X AI asentían.
Después de un verano de sorpresas — de agentes de IA escapando de las "cajas de arena" diseñadas para contenerlos — ¿por qué alguien pensaría que estas protecciones son suficientes? Los sistemas de alerta temprana en capas han fallado claramente. Nuevos casos de agentes de IA comportándose mal surgen casi a diario. "Reconocimos en 2023 que los compromisos voluntarios por sí solos no serían suficientes, por lo que el presidente Biden siguió con una orden ejecutiva", señaló Ben Buchanan, profesor de Johns Hopkins. "Dado lo rápido que han avanzado las capacidades de IA, ahora es aún más claro que el gobierno federal necesitará actuar una vez más."
Fuente: New York Times Top Stories · Resumido por HeadlinesBriefing