L'IA est une technologie à haut risque qui doit être traitée avec des niveaux de scrutiny similaires à ceux de l'industrie nucléaire, selon Denis Shilov, fondateur de White Circle, startup de sécurité de l'IA basée à Paris. Il souligne la nécessité urgente de cadres de sécurité robustes alors que le développement de l'IA s'accélère à l'échelle mondiale. Shilov prévient que sans une surveillance adéquate, l'avancement incontrôlé de l'IA pourrait entraîner des issues catastrophiques comparables aux risques de prolifération nucléaire.

Il appelle à une coopération internationale et à des mesures réglementaires pour ralentir la course et prioriser la sécurité sur la vitesse. L'expert souligne des préoccupations spécifiques autour des systèmes d'IA incontrôlés et de leurs impacts potentiels sur la société. Shilov plaide pour des modèles de gouvernance proactifs inspirés des protocoles de sécurité nucléaire.

Il souligne que le développement actuel de l'IA manque de suffisamment de garde-fous et de transparence. Le fondateur appelle les décideurs et les leaders technologiques à adopter des principes de précaution immédiatement. White Circle, basée à Paris, se concentre sur le développement d'outils pour évaluer et atténuer les risques de l'IA.

Les remarques de Shilov interviennent dans le contexte d'un débat mondial croissant sur la régulation de l'IA et son déploiement éthique. Il compare le paysage actuel de l'IA au développement nucléaire précoce, où la sécurité était en retard sur l'innovation. L'expert insiste sur l'importance d'apprendre de l'histoire pour éviter de répéter les erreurs passées.

Son message souligne le besoin critique d'une action immédiate en matière de sécurité de l'IA.