Инструменты на основе ИИ, похоже, создают угрозы безопасности почти ежедневно, отчасти потому, что мы медленно распознавали потенциальные угрозы. Однако одна область, в которой мы, похоже, впереди, — это биобезопасность. Мы разработали все более сложные инструменты для проектирования белков и добились крупных успехов, таких как созданные ИИ ферменты, которые могут переваривать пластик или блокировать ядовитые белки. Но эти же инструменты могут быть использованы для создания токсинов или изменения поведения вирусных белков.
Почти через год после того, как этот риск был отмечен, все еще было неясно, что с этим можно сделать. В среду команда Deep Mind в Google опубликовала исследовательскую работу, предлагающую потенциальное решение: нанесение водяного знака на белки. Система создает водяной знак на самих последовательностях белков, не ставя под угрозу функцию белка. Это позволяет идентифицировать новые белки, созданные доверенными исследователями, открывая все остальное для более пристального внимания.
Работа была основана на технологии Synth ID от Google, которая может добавлять тонкий водяной знак к цифровым материалам, созданным ИИ. Водяной знак влияет на вероятность определенных выборов, которые делает ИИ, и это смещение систематически распределяется по всему продукту. Поскольку вы не можете идентифицировать водяной знак, не зная, как он закодирован, его невозможно удалить. Команда Google начала с одного из самых популярных инструментов проектирования белков с ИИ, Protein MPNN.
Ключевые объекты: Компании: Google, Deep Mind | Люди: David Baker
Часто задаваемый вопрос: Как работает водяной знак белков от Google?
Система использует технологию Synth ID от Google для добавления тонкого водяного знака на последовательности белков без ущерба для функции. Она влияет на вероятностные выборы ИИ, распределяя смещение по всему белку. Поскольку водяной знак неизвестен без ключа кодирования, его нельзя удалить, и он переживает базовую обработку, такую как изменение размера.
Источник: Ars Technica · Сводку подготовил HeadlinesBriefing