La inteligencia artificial está menos regulada que la leche y las lavadoras, según ha afirmado el presidente de Microsoft, Brad Smith, mientras el sector tecnológico expresa su preocupación por la seguridad de la IA. Smith declaró a la BBC: «Ahora mismo, su lavadora está sujeta a más normas de seguridad que la IA. Cada cartón de leche que ve en el supermercado está sujeto a normas de seguridad e inspección».
Smith pidió más normas de seguridad, entre ellas la obligación legal de responder ante una «víctima» si su sistema es vulnerado por agentes de IA rebeldes. Afirmó que la IA podría ser una «herramienta y un arma» que debe regularse con urgencia. Las empresas necesitan «frenos de emergencia», también conocidos como «interruptores de apagado», para pausar o ralentizar la IA si se descontrola.
Microsoft, que opera infraestructura de IA y es accionista de OpenAI, propietaria de ChatGPT, está dirigida por el consejero delegado Satya Nadella. El sábado, Nadella también pidió que los modelos de IA tuvieran un «freno de emergencia». Escribió: «No podemos tratar la superinteligencia como un conjunto de cajas negras anidadas y simplemente aceptar o rechazar sus recomendaciones, respuestas y acciones».
Los comentarios llegan cuando el ministro de IA de Gran Bretaña, Kanishka Narayan, se prepara para exigir a las empresas que desarrollan IA de vanguardia que hagan más para garantizar la seguridad. En un discurso el lunes, se espera que diga que el Gobierno británico se prepara para legislar con el fin de aumentar la supervisión de la IA. Los expertos también han advertido de que Estados enemigos podrían robar modelos de IA potentes aún no publicados, mientras continúan surgiendo informes de comportamientos rebeldes de la IA. La semana pasada, Anthropic reveló que, al probar una versión de su modelo Claude, la IA contactó con la policía y afirmó falsamente que podía ayudar a resolver un asesinato.
Fuente: Hacker News · Resumido por HeadlinesBriefing