Las herramientas basadas en IA parecen causar amenazas de seguridad casi a diario, en parte porque hemos sido lentos en reconocer amenazas potenciales. Sin embargo, un área donde parecemos estar adelantados es en la bioseguridad. Hemos desarrollado herramientas cada vez más sofisticadas para diseñar proteínas y hemos visto éxitos importantes, como enzimas diseñadas por IA que pueden digerir plásticos o bloquear proteínas de veneno. Pero estas mismas herramientas podrían usarse para fabricar toxinas o alterar el comportamiento de proteínas virales.
Casi un año después de que se señalara ese riesgo, aún no estaba claro qué se podía hacer al respecto. El miércoles, el equipo de Deep Mind en Google publicó un artículo de investigación ofreciendo una posible solución: la marca de agua de proteínas. El sistema crea una marca de agua en las propias secuencias de proteínas sin comprometer su función. Esto permite identificar nuevas proteínas diseñadas por investigadores confiables, abriendo todo lo demás a un escrutinio más cercano.
El trabajo se basó en la tecnología Synth ID de Google, que puede añadir una marca de agua sutil a material digital generado por IA. La marca de agua influye en la probabilidad de ciertas elecciones que hace la IA, y ese sesgo termina distribuido sistemáticamente por todo el producto. Como no se puede identificar la marca de agua sin saber cómo fue codificada, es imposible eliminarla. El equipo de Google comenzó con una de las herramientas más populares de diseño de proteínas por IA, Protein MPNN.
Entidades clave: Empresas: Google, Deep Mind | Personas: David Baker
Pregunta frecuente: ¿Cómo funciona la marca de agua de proteínas de Google?
El sistema usa la tecnología Synth ID de Google para añadir una marca de agua sutil a las secuencias de proteínas sin comprometer su función. Influye en las elecciones de probabilidad de la IA, distribuyendo un sesgo por toda la proteína. Como la marca de agua es desconocida sin la clave de codificación, no se puede eliminar, y sobrevive a procesamiento básico como redimensionar.
Fuente: Ars Technica · Resumido por HeadlinesBriefing