L'IA transforme la vitesse, l'échelle et l'économie de la cybersécurité. Elle peut aider les défenseurs à trouver et corriger les vulnérabilités, détecter les intrusions et réagir aux attaques, mais ces mêmes capacités peuvent permettre à des acteurs malveillants et créer de nouveaux risques lorsque les systèmes d'IA agissent au-delà de leurs limites prévues. OpenAI décrit cela comme une fenêtre pour les défenseurs : une occasion limitée de mettre l'IA avancée entre les mains des défenseurs et de renforcer les protections avant que des capacités offensives cyber avancées ne deviennent largement accessibles.
L'entreprise publie un plan pour renforcer les défenseurs cyber, s'appuyant sur son précédent plan d'action en cybersécurité et son plan de sécurité pour l'IA de pointe. OpenAI affirme que son expérience en matière de désalignement et d'incidents de sécurité impliquant ses propres modèles souligne la nécessité de garanties plus solides et d'une responsabilisation accrue dans tout le secteur. Le plan propose des mesures concrètes pour les gouvernements et l'industrie dans trois domaines.
Tout d'abord, il appelle à renforcer la sécurité de l'IA avancée, avec des responsabilités plus claires pour sécuriser les modèles et agents de pointe, détecter les comportements dangereux et maintenir des contrôles d'arrêt fiables. Ensuite, il demande de moderniser la cybersécurité pour l'ère de l'intelligence, en dotant les défenseurs d'outils avancés, de formations et d'un soutien technique, en corrigeant des faiblesses anciennes et en investissant dans la sécurisation des services essentiels et le remplacement des systèmes obsolètes. Enfin, il propose de bâtir des institutions publiques résilientes et adaptatives grâce à des évaluations gouvernementales renforcées et à des évaluations techniques indépendantes, à des obligations cohérentes de notification des incidents, et à une réponse et une reprise coordonnées et améliorées.
OpenAI affirme que les laboratoires d'IA ont la responsabilité de traiter les risques générés par leurs systèmes et d'aider à renforcer les défenses de la société. Les gouvernements, ajoute-t-elle, doivent également disposer de l'expertise, des ressources et de l'autorité nécessaires pour protéger le public à mesure que les capacités progressent. L'entreprise encourage les décideurs politiques à agir dès maintenant, en établissant des garanties, en tirant les leçons de l'expérience et en renforçant les exigences à mesure que la technologie évolue.
Source: OpenAI Blog · Résumé par HeadlinesBriefing