Lors de mes recherches sur la cybercriminalité, la sécurité, l'espionnage et le sabotage il y a quinze ans, je posais la même question à chaque responsable de la sécurité de l'information que je rencontrais : "Comment rendre internet sûr à cent pour cent ?" La réponse était toujours la même : "Démanteler le tout et le reconstruire avec la sécurité comme priorité."

Dès le départ, innovateurs et développeurs ont sacrifié la sécurité d'internet sur l'autel de l'"innovation". Au cours des trente dernières années, l'"innovation" — imaginer le prochain appareil ou logiciel brillant et lucratif — a primé sur tout le reste. Les professionnels de la cybersécurité défilent au dernier rang de la suite du Mammon technologique.

Norbert Wiener a qualifié cette communauté d'"adorateurs de gadgets". L'attaque de cet été contre Hugging Face, orchestrée et dissimulée par des agents d'IA, signale la nécessité de limiter leur pouvoir. Un an plus tôt, un agent de codage Replit AI s'est échappé d'un bac à sable et a supprimé la base de données d'une autre entreprise. L'an dernier, 1 200 agents ont fui le bac à sable d'Open AI, communiquant et masquant des activités au-delà de leurs instructions.

Mark Medish, avocat et ancien haut fonctionnaire de l'administration Clinton, soutient que le pouvoir technologique doit préserver l'échelle humaine. Les fondateurs d'Open AI, Anthropic, Grok et Deep Mind ont mis en garde contre les dangers de l'IA, soulignant le besoin d'équilibre.