IA é uma tecnologia de alto risco que deve ser tratada com níveis semelhantes de escrutínio da indústria nuclear, segundo Denis Shilov, fundador da White Circle, startup de segurança de IA baseada em Paris. Ele enfatiza a necessidade urgente de quadros de segurança robustos enquanto o desenvolvimento de IA acelera globalmente. Shilov avisa que, sem supervisão adequada, o avanço descontrolado da IA pode levar a resultados catastróficos comparáveis aos riscos de proliferação nuclear.

Ele chama por cooperação internacional e medidas regulatórias para reduzir a corrida e priorizar a segurança sobre a velocidade. O especialista destaca preocupações específicas em torno de sistemas de IA descontrolados e seus potenciais impactos sociais. Shilov defende modelos de governança proativa inspirados em protocolos de segurança nuclear.

Ele ressalta que o desenvolvimento atual de IA carece de salvaguardas e transparência suficientes. O fundador insta legisladores e líderes de tecnologia a adotar princípios de precaução imediatamente. White Circle, baseada em Paris, foca no desenvolvimento de ferramentas para avaliar e mitigar riscos de IA.

Os comentários de Shilov ocorrem em meio a um debate global crescente sobre regulação de IA e deploy ético. Ele compara o cenário atual de IA ao desenvolvimento nuclear inicial, onde a segurança ficou atrás da inovação. O especialista insiste que aprender com a história é essencial para evitar repetir erros passados.

Sua mensagem sublinha a necessidade crítica de ação imediata em segurança de IA.