基于AI的工具似乎几乎每天都会造成安全威胁，部分原因是我们对潜在威胁的认识一直很慢。然而，在一个领域我们似乎走在了前面，那就是生物安全。我们已经开发出越来越复杂的蛋白质设计工具，并取得了一些重大成功，例如AI设计的酶可以消化塑料或阻断毒液蛋白。但这些工具也可能被用来制造毒素或改变病毒蛋白的行为。
在风险被标记近一年后，仍不清楚任何人能对此做些什么。周三，Deep Mind团队在Google发布了一篇研究论文，提出了一个潜在的解决方案：蛋白质水印。该系统在蛋白质序列本身上创建水印，而不损害蛋白质的功能。这使得由可信研究人员设计的新蛋白质能够被识别，从而让其他所有蛋白质都受到更严格的审查。
这项工作基于谷歌的Synth ID技术，该技术可以为AI生成的数字材料添加微妙的水印。水印影响AI做出的某些选择的概率，这种偏差最终系统地分布在整个产品中。因为如果你不知道水印是如何编码的，就无法识别它，所以不可能移除它。谷歌团队从最流行的AI蛋白质设计工具之一Protein MPNN开始。
关键实体：公司：Google、Deep Mind | 人物：David Baker
常见问题：谷歌的蛋白质水印是如何工作的？
该系统使用谷歌的Synth ID技术，在不损害功能的情况下为蛋白质序列添加微妙的水印。它影响AI的概率选择，将偏差分布到整个蛋白质中。由于没有编码密钥就无法知道水印，因此无法移除，并且它能在基本处理（如调整大小）中存活。
来源: Ars Technica · 由HeadlinesBriefing整理摘要