OpenAI et l'Institut national de recherche polonais NASK ont signé un accord visant à explorer une collaboration sur la sécurité, la sûreté et la recherche technique en matière d'IA. Ce partenariat réunira l'expertise des deux organisations afin de mieux comprendre les risques émergents, renforcer les garde-fous et étudier comment l'IA avancée peut contribuer à un écosystème numérique plus sûr et plus résilient.
À mesure que les systèmes d'IA gagnent en capacités, la coopération internationale entre les développeurs et les institutions de recherche publiques deviendra essentielle. Les travaux existants d'OpenAI avec le Centre américain pour l'avancement des normes et de l'innovation en matière de superintelligence (CAISSI), l'Institut britannique de sécurité de l'IA (AISI) et d'autres institutions de recherche publiques ont déjà contribué à renforcer les garde-fous, à identifier et corriger des failles de sécurité dans les agents d'IA, et à faire progresser la sécurité de l'IA de pointe.
Dans le cadre de l'accord, le Centre de recherche sur la sécurité de l'IA de NASK, qui fait office d'Institut polonais de sécurité de l'intelligence artificielle (AISI), et OpenAI collaboreront à des recherches sur les moyens d'évaluer des systèmes d'IA toujours plus performants, d'identifier les vulnérabilités potentielles et de renforcer les garde-fous. OpenAI a appelé les États-Unis à travailler avec les pays du monde entier à l'élaboration de normes techniques internationales pour l'IA de pointe. Des approches communes pour évaluer les capacités, analyser les risques, tester les garde-fous et signaler les incidents peuvent aider les pays à comparer les preuves et à répondre aux risques transfrontaliers.
L'accord s'appuie également sur les travaux existants d'OpenAI avec des défenseurs de la cybersécurité en Pologne. En juillet, CERT Polska, qui opère au sein de NASK, a obtenu l'accès aux modèles d'OpenAI dotés de capacités cyber via Daybreak. L'équipe a utilisé les modèles d'OpenAI pour contribuer à la découverte de six vulnérabilités dans MikroTik RouterOS, dont des failles pouvant être combinées pour prendre le contrôle des appareils concernés sans authentification. L'éditeur a publié des correctifs, dont CERT Polska a confirmé qu'ils avaient empêché les attaques qu'elle avait observées.
Source: OpenAI Blog · Résumé par HeadlinesBriefing