A OpenAI e o Instituto Nacional de Pesquisa da Polônia, NASK, assinaram um acordo para explorar a colaboração em segurança, proteção e pesquisa técnica em IA. A parceria reunirá a experiência das duas organizações para compreender melhor os riscos emergentes, fortalecer salvaguardas e explorar como a IA avançada pode contribuir para um ecossistema digital mais seguro e resiliente.
À medida que os sistemas de IA se tornam mais capazes, a colaboração internacional entre desenvolvedores e instituições públicas de pesquisa será essencial. O trabalho já existente da OpenAI com o Centro dos EUA para o Avanço de Padrões e Inovação em Superinteligência (CAISSI), o Instituto de Segurança em IA do Reino Unido (AISI) e outras instituições públicas de pesquisa já ajudou a fortalecer salvaguardas, identificar e corrigir vulnerabilidades de segurança em agentes de IA e avançar na segurança da IA de fronteira.
Sob o acordo, o Centro de Pesquisa em Segurança de IA da NASK, que atua como Instituto Polonês de Segurança em Inteligência Artificial (AISI), e a OpenAI colaborarão em pesquisas sobre formas de avaliar sistemas de IA cada vez mais capazes, identificar possíveis vulnerabilidades e fortalecer salvaguardas. A OpenAI pediu que os EUA trabalhem com países de todo o mundo em padrões técnicos internacionais para a IA de fronteira. Abordagens comuns para avaliar capacidades, analisar riscos, testar salvaguardas e relatar incidentes podem ajudar os países a comparar evidências e responder a riscos transfronteiriços.
O acordo também se baseia no trabalho existente da OpenAI com defensores cibernéticos na Polônia. Em julho, a CERT Polska, que opera dentro da NASK, obteve acesso aos modelos da OpenAI com capacidades cibernéticas por meio do Daybreak. A equipe usou modelos da OpenAI para ajudar a descobrir seis vulnerabilidades no MikroTik RouterOS, incluindo falhas que podiam ser combinadas para assumir o controle de dispositivos afetados sem autenticação. O fornecedor lançou correções, que a CERT Polska confirmou terem impedido os ataques que observou.
Fonte: OpenAI Blog · Resumido por HeadlinesBriefing