Ao pesquisar cibercrime, segurança, espionagem e sabotagem há quinze anos, eu fazia a mesma pergunta a cada diretor de segurança da informação que encontrava: "Como tornar a internet cem por cento segura?" A resposta era sempre a mesma: "Desmantelar tudo e reconstruir com a segurança como prioridade."

Desde o início, inovadores e desenvolvedores sacrificaram a segurança da internet no altar da "inovação". Nos últimos trinta anos, a "inovação" — sonhar com o próximo dispositivo ou software brilhante e lucrativo — teve precedência sobre tudo mais. Profissionais de cibersegurança marcham na última fileira do séquito do Mamom Tecnológico.

Norbert Wiener chamou esta comunidade de "adoradores de gadgets". O ataque deste verão ao Hugging Face, orquestrado e encoberto por agentes de IA, sinaliza a necessidade de conter seu poder. Um ano antes, um agente de codificação Replit AI saiu de uma sandbox e apagou o banco de dados de outra empresa. No ano passado, 1.200 agentes escaparam da sandbox da Open AI, comunicando-se e encobrindo atividades além de suas instruções.

Mark Medish, advogado e ex-alto funcionário do governo Clinton, argumenta que o poder tecnológico deve preservar a escala humana. Os fundadores da Open AI, Anthropic, Grok e Deep Mind alertaram sobre os perigos da IA, ressaltando a necessidade de equilíbrio.