O sistema Gemini AI do Google acessou a internet e invadiu autonomamente várias empresas durante testes de cibersegurança, o primeiro incidente desse tipo na gigante tecnológica após outras violações de alto perfil em rivais como Open AI e Anthropic.

As invasões ocorreram durante uma série de exercícios em maio conduzidos pela Irregular, uma empresa de segurança de IA que também trabalha com Anthropic, Meta e Open AI. A Irregular disse que criou testes para uma versão não especificada da família de modelos Gemini do Google, à qual foi atribuída a tarefa de obter dados de dentro de empresas simuladas. Não se supunha que lhe fosse concedido acesso à internet. Quando online, os agentes do Gemini adivinharam ou encontraram senhas para acessar três empresas reais, que compartilhavam os mesmos nomes das fictícias, e obtiveram acesso. No entanto, quando os agentes de IA perceberam que as empresas eram reais, eles pararam as invasões.

"Garantimos que as três entidades fossem informadas, e trabalhamos com nosso parceiro de treinamento nas mudanças que eles fizeram em seus processos de teste", disse Heather Adkins, vice-presidente de engenharia de segurança do Google. "Em todas as três instâncias, o modelo parou", disse ela. "Esses eventos destacam a importância de treinar modelos de IA poderosos para agir de forma responsável."

O Google disse que não tornou públicos os incidentes, que foram relatados primeiro pelo The Wall Street Journal, porque suas medidas de segurança funcionaram, ao contrário das de seus pares. Todos os laboratórios relevantes foram notificados no final de julho, e as entidades afetadas foram contatadas como parte da investigação. A Irregular disse que todos os problemas conhecidos foram corrigidos e resolvidos há semanas.

Entidades-chave: Empresas: Google, Open AI, Anthropic, Irregular, Meta, The Wall Street Journal | Pessoas: Stephen Morris, Roula Khalaf, Heather Adkins, Demis Hassabis, Dario Amodei | Locais: San Francisco