El proyecto de ley propuesto de seguridad de IA de Anthropic solo se activaría bajo condiciones extremas—específicamente, si un modelo de IA causa 50 muertes o $1 mil millones en daños—efectivamente otorgando al Departamento de Comercio la autoridad exclusiva para detener el despliegue de IA. El proyecto de ley establece umbrales remarkably altos para la intervención, lo que significa que a menos que ocurra un daño catastrófico, ninguna agencia federal podría intervenir para detener un potencialmente peligroso sistema de IA. Los críticos argumentan que este diseño hace que el mecanismo de seguridad sea casi inútil para prevenir daños antes de que ocurran, ya que espera que ocurra un daño irreversible.
El propuesta refleja un debate más amplio sobre cómo regular la IA de rápido avance sin sofocar la innovación, pero plantea serias preocupaciones sobre responsabilidad y seguridad pública. Al vincular la intervención a resultados tan severos, el proyecto de ley puede fallar al abordar como información errónea generalizada, interrupción económica o daño social gradual que no cumplen el umbral de muerte o daños. Sin embargo, los defensores sostienen que establecer un alto umbral evita la reacción excesiva y garantiza que la acción regulatoria solo ocurra después de daños demostrables a gran escala.
La legislación subraya la tensión entre permitir el progreso tecnológico y establecer salvaguardas significativas en el desarrollo de IA.
Fuente: Hacker News · Resumido por HeadlinesBriefing