Destinado a ajudar na biossegurança, funciona com uma ferramenta popular de design de proteínas por IA. Ferramentas baseadas em IA parecem estar causando ameaças à segurança quase diariamente, em parte porque fomos lentos em reconhecer ameaças potenciais. No entanto, uma área em que parecemos estar à frente é a biossegurança.

Quase um ano depois que esse risco foi sinalizado, ainda não estava claro o que se poderia fazer a respeito. Na quarta-feira, a equipe Deep Mind do Google publicou um artigo de pesquisa oferecendo uma solução potencial: marca d'água em proteínas. O sistema cria uma marca d'água nas próprias sequências de proteínas sem comprometer sua função.

O trabalho foi baseado na tecnologia Synth ID do Google, que pode adicionar uma marca d'água sutil a material digital gerado por IA. A marca d'água influencia a probabilidade de certas escolhas que a IA faz, e esse viés acaba sistematicamente distribuído por todo o produto. Como você não pode identificar a marca d'água sem saber como foi codificada, é impossível removê-la.

A equipe do Google começou com uma das ferramentas de design de proteínas por IA mais populares, Protein MPNN. (Este software foi desenvolvido pelo Baker Lab, e David Baker foi homenageado com o mesmo Prêmio Nobel compartilhado com a equipe Deep Mind.)