Les outils basés sur l'IA semblent causer des menaces de sécurité presque quotidiennement, en partie parce que nous avons été lents à reconnaître les menaces potentielles. Cependant, un domaine où nous semblons en avance est la biosécurité. Nous avons développé des outils de plus en plus sophistiqués pour concevoir des protéines et avons vu des succès majeurs, comme des enzymes conçues par IA qui peuvent digérer les plastiques ou bloquer les protéines de venin. Mais ces mêmes outils pourraient être utilisés pour fabriquer des toxines ou modifier le comportement de protéines virales.
Près d'un an après que ce risque a été signalé, on ne savait toujours pas quoi faire. Mercredi, l'équipe Deep Mind chez Google a publié un article de recherche offrant une solution potentielle : le filigrane de protéines. Le système crée un filigrane sur les séquences de protéines elles-mêmes sans compromettre la fonction de la protéine. Cela permet d'identifier les nouvelles protéines conçues par des chercheurs de confiance, ouvrant tout le reste à un examen plus approfondi.
Le travail était basé sur la technologie Synth ID de Google, qui peut ajouter un filigrane subtil à du matériel numérique généré par IA. Le filigrane influence la probabilité de certains choix faits par l'IA, et ce biais se retrouve systématiquement distribué dans tout le produit. Parce qu'on ne peut pas identifier le filigrane sans savoir comment il a été encodé, il est impossible de l'enlever. L'équipe de Google a commencé avec l'un des outils de conception de protéines par IA les plus populaires, Protein MPNN.
Entités clés : Entreprises : Google, Deep Mind | Personnes : David Baker
FAQ : Comment fonctionne le filigrane de protéines de Google ?
Le système utilise la technologie Synth ID de Google pour ajouter un filigrane subtil aux séquences de protéines sans compromettre la fonction. Il influence les choix de probabilité de l'IA, distribuant un biais dans toute la protéine. Parce que le filigrane est inconnu sans la clé d'encodage, il ne peut pas être enlevé, et il survit à un traitement de base comme le redimensionnement.
Source: Ars Technica · Résumé par HeadlinesBriefing