Ferramentas baseadas em IA parecem causar ameaças de segurança quase diariamente, em parte porque fomos lentos em reconhecer ameaças potenciais. No entanto, uma área em que parecemos estar à frente é a biossegurança. Desenvolvemos ferramentas cada vez mais sofisticadas para projetar proteínas e vimos grandes sucessos, como enzimas projetadas por IA que podem digerir plásticos ou bloquear proteínas de veneno. Mas essas mesmas ferramentas podem ser usadas para fazer toxinas ou alterar o comportamento de proteínas virais.
Quase um ano após esse risco ser sinalizado, ainda não estava claro o que se poderia fazer a respeito. Na quarta-feira, a equipe Deep Mind do Google publicou um artigo de pesquisa oferecendo uma solução potencial: marca d'água de proteínas. O sistema cria uma marca d'água nas próprias sequências de proteínas sem comprometer a função da proteína. Isso permite identificar novas proteínas projetadas por pesquisadores confiáveis, abrindo todo o resto para um exame mais próximo.
O trabalho foi baseado na tecnologia Synth ID do Google, que pode adicionar uma marca d'água sutil a material digital gerado por IA. A marca d'água influencia a probabilidade de certas escolhas que a IA faz, e esse viés acaba distribuído sistematicamente por todo o produto. Como você não pode identificar a marca d'água sem saber como ela foi codificada, é impossível removê-la. A equipe do Google começou com uma das ferramentas de design de proteínas por IA mais populares, Protein MPNN.
Entidades-chave: Empresas: Google, Deep Mind | Pessoas: David Baker
Pergunta frequente: Como funciona a marca d'água de proteínas do Google?
O sistema usa a tecnologia Synth ID do Google para adicionar uma marca d'água sutil às sequências de proteínas sem comprometer a função. Ele influencia as escolhas de probabilidade da IA, distribuindo um viés por toda a proteína. Como a marca d'água é desconhecida sem a chave de codificação, ela não pode ser removida e sobrevive a processamento básico como redimensionamento.
Fonte: Ars Technica · Resumido por HeadlinesBriefing