A IA está mudando a velocidade, a escala e a economia da segurança cibernética. Ela pode ajudar os defensores a encontrar e corrigir vulnerabilidades, detectar invasões e responder a ataques, mas essas mesmas capacidades podem permitir a agentes mal-intencionados e criar novos riscos quando os sistemas de IA agem além de seus limites pretendidos. A OpenAI descreve isso como uma janela para os defensores: uma oportunidade limitada de colocar a IA avançada nas mãos dos defensores e fortalecer as proteções antes que capacidades ofensivas cibernéticas avançadas se tornem amplamente disponíveis.
A empresa está publicando um plano para capacitar defensores cibernéticos, baseado em seu plano de ação anterior de segurança cibernética e em seu plano de segurança para IA de fronteira. A OpenAI afirma que sua experiência com desalinhamento e incidentes de segurança envolvendo seus próprios modelos reforça a necessidade de salvaguardas mais robustas e de responsabilização em todo o setor. O plano oferece propostas concretas para governos e indústria em três áreas.
Primeiro, ele pede o fortalecimento da segurança da IA avançada, incluindo responsabilidades mais claras para proteger modelos e agentes de fronteira, detectar comportamentos perigosos e manter controles de desligamento confiáveis. Segundo, insta à modernização da segurança cibernética para a era da inteligência, equipando os defensores com ferramentas avançadas, treinamento e suporte técnico, enfrentando fragilidades antigas e investindo na proteção de serviços essenciais e na substituição de sistemas obsoletos. Terceiro, propõe construir instituições públicas resilientes e adaptáveis, por meio de avaliações governamentais mais robustas e avaliações técnicas independentes, requisitos consistentes de notificação de incidentes e resposta e recuperação coordenadas e aprimoradas.
A OpenAI afirma que os laboratórios de IA têm a responsabilidade de enfrentar os riscos que seus sistemas criam e de ajudar a fortalecer as defesas da sociedade. Os governos, acrescenta, também devem ter a experiência, os recursos e a autoridade para proteger o público à medida que as capacidades avançam. A empresa incentiva os formuladores de políticas a agir agora, estabelecendo salvaguardas, aprendendo com a experiência e fortalecendo as exigências conforme a tecnologia evolui.
Fonte: OpenAI Blog · Resumido por HeadlinesBriefing