La IA es una tecnología de alto riesgo que debe tratarse con niveles similares de escrutinio que la industria nuclear, según Denis Shilov, fundador de White Circle, startup de seguridad de IA con sede en París. Él enfatiza la necesidad urgente de marcos de seguridad robustos mientras el desarrollo de IA se acelera a nivel mundial. Shilov advierte que, sin una supervisión adecuada, el progreso sin control de la IA podría conducir a resultados catastróficos comparables a los riesgos de proliferación nuclear. Pide cooperación internacional y medidas regulatorias para frenar la carrera y priorizar la seguridad sobre la velocidad.

El experto destaca preocupaciones específicas alrededor de sistemas de IA descontrolados y su potencial impacto social. Shilov aboga por modelos de gobernanza proactivos inspirados en protocolos de seguridad nuclear. Señala que el desarrollo actual de IA carece de salvaguardas y transparencia suficientes.

El fundador insta a responsables políticos y líderes tecnológicos a adoptar principios de precaución de inmediato. White Circle, con sede en París, se centra en desarrollar herramientas para evaluar y mitigar riesgos de IA. Los comentarios de Shilov llegan en medio de un debate global creciente sobre regulación de IA y despliegue ético.

Compara el panorama actual de IA con el desarrollo nuclear temprano, donde la seguridad quedó atrás de la innovación. El experto insiste en que aprender de la historia es esencial para evitar repetir errores pasados. Su mensaje subraya la necesidad crítica de una acción inmediata en seguridad de IA.