Destinado a ayudar con la bioseguridad, funciona con una popular herramienta de diseño de proteínas por IA. Las herramientas basadas en IA parecen estar causando amenazas de seguridad casi a diario, en parte porque hemos sido lentos en reconocer amenazas potenciales. Sin embargo, un área en la que parecemos estar adelantados es la bioseguridad.

Casi un año después de que se señalara ese riesgo, aún no estaba claro qué se podía hacer al respecto. El miércoles, el equipo Deep Mind de Google publicó un artículo de investigación que ofrece una solución potencial: marcas de agua en proteínas. El sistema crea una marca de agua en las propias secuencias de proteínas sin comprometer su función.

El trabajo se basó en la tecnología Synth ID de Google, que puede agregar una marca de agua sutil a material digital generado por IA. La marca de agua influye en la probabilidad de ciertas elecciones que hace la IA, y ese sesgo termina distribuido sistemáticamente en todo el producto. Como no se puede identificar la marca de agua sin saber cómo se codificó, es imposible eliminarla.

El equipo de Google comenzó con una de las herramientas de diseño de proteínas por IA más populares, Protein MPNN. (Este software fue desarrollado por el Baker Lab, y David Baker fue honrado con el mismo Premio Nobel compartido con el equipo de Deep Mind.)