Предназначенный для помощи в биобезопасности, он работает с популярным инструментом дизайна белков на основе ИИ. Инструменты на основе ИИ, кажется, ежедневно создают угрозы безопасности, отчасти потому, что мы медленно распознавали потенциальные угрозы. Однако в области биобезопасности мы, похоже, впереди.

Спустя почти год после того, как этот риск был отмечен, все еще было неясно, что с ним можно сделать. В среду команда Deep Mind из Google опубликовала исследовательскую работу, предлагающую потенциальное решение: водяные знаки для белков. Система создает водяной знак на самих последовательностях белка, не ставя под угрозу его функцию.

Работа была основана на технологии Google Synth ID, которая может добавлять тонкий водяной знак к цифровому материалу, созданному ИИ. Водяной знак влияет на вероятность определенных выборов, которые делает ИИ, и это смещение в конечном итоге систематически распределяется по всему продукту. Поскольку вы не можете идентифицировать водяной знак, не зная, как он был закодирован, его невозможно удалить.

Команда Google начала с одного из самых популярных инструментов дизайна белков на основе ИИ, Protein MPNN. (Это программное обеспечение было разработано Baker Lab, и David Baker был удостоен той же Нобелевской премии, которая была разделена с командой Deep Mind.)