HeadlinesBriefing favicon HeadlinesBriefing.com

Desafíos del Interruptor de Emergencia de IA y Esfuerzos del Congreso

New York Times Top Stories •
×

Un grupo bipartidista en el Congreso y el gobernador de California, Gavin Newsom, han propuesto construir un mecanismo para apagar instantáneamente sistemas de IA descontrolados, pero expertos dicen que crear un interruptor de emergencia es más difícil de lo asumido. Los sistemas de IA a menudo están distribuidos en múltiples computadoras y centros de datos, lo que hace que un solo 'enchufe' no exista. Helen Toner del Centro para la Seguridad y Tecnologías Emergentes de Georgetown señaló que estos sistemas podrían ser vulnerables a hackers o incluso desmantelar el interruptor por sí mismos.

Vinh Nguyen del Consejo de Relaciones Exteriores comparó los riesgos del interruptor de emergencia con las puertas traseras en los smartphones. A pesar de los proyectos de ley federales estancados, Newsom firmó una orden ejecutiva para estudiar los interruptores de emergencia de IA después de haber vetado previamente legislación similar. Los representantes Ted Lieu y Nathaniel Moran patrocinan la Ley del Interruptor de Emergencia, que exige a laboratorios importantes como Open AI, Anthropic y Meta incorporar mecanismos de apagado, enfatizando el control humano sobre la IA.