Destiné à aider à la biosécurité, cela fonctionne avec un outil populaire de conception de protéines par IA. Les outils basés sur l'IA semblent causer des menaces de sécurité presque quotidiennement, en partie parce que nous avons été lents à reconnaître les menaces potentielles. Cependant, un domaine où nous semblons en avance est la biosécurité.

Près d'un an après que ce risque a été signalé, il n'était toujours pas clair ce que l'on pouvait faire. Mercredi, l'équipe Deep Mind de Google a publié un article de recherche offrant une solution potentielle : le filigrane des protéines. Le système crée un filigrane sur les séquences protéiques elles-mêmes sans compromettre la fonction de la protéine.

Le travail était basé sur la technologie Synth ID de Google, qui peut ajouter un filigrane subtil au matériel numérique généré par IA. Le filigrane influence la probabilité de certains choix effectués par l'IA, et ce biais se retrouve systématiquement distribué dans tout le produit. Parce qu'on ne peut pas identifier le filigrane sans savoir comment il a été encodé, il est impossible à supprimer.

L'équipe de Google a commencé avec l'un des outils de conception de protéines par IA les plus populaires, Protein MPNN. (Ce logiciel a été développé par le Baker Lab, et David Baker a été honoré du même prix Nobel partagé avec l'équipe Deep Mind.)