Google figures out how to watermark AI-designed proteins

AI-based tools seem to be causing security threats on a nearly daily basis, in part because we’ve been slow to recognize potential threats. One area where we seem to be ahead of the game, however, is in biosecurity. We’ve developed increasingly sophisticated tools for designing proteins and seen some major successes, such as AI-designed enzymes that can digest plastics or block venom proteins. But these same tools could be used to make toxins or alter the behavior of viral proteins.

Nearly a year after that risk was flagged, it still wasn’t clear what anyone could do about it. On Wednesday, the Deep Mind team at Google published a research paper offering a potential solution: protein watermarking. The system creates a watermark on protein sequences themselves without compromising the protein’s function. This allows new proteins designed by trusted researchers to be identified, opening everything else up to closer scrutiny.

The work was based on Google’s Synth ID tech, which can add a subtle watermark to AI-generated digital material. The watermark influences the probability of certain choices the AI makes, and that bias ends up systematically distributed throughout the product. Because you can’t identify the watermark without knowing how it was encoded, it’s impossible to remove. The Google team started with one of the most popular AI protein design tools, Protein MPNN.

يبدو أن الأدوات القائمة على الذكاء الاصطناعي تسبب تهديدات أمنية بشكل شبه يومي، ويرجع ذلك جزئياً إلى أننا كنا بطيئين في التعرف على التهديدات المحتملة. ومع ذلك، فإن أحد المجالات التي يبدو أننا متقدمون فيها هو الأمن البيولوجي. لقد طورنا أدوات متطورة بشكل متزايد لتصميم البروتينات وشهدنا نجاحات كبيرة، مثل إنزيمات مصممة بالذكاء الاصطناعي يمكنها هضم البلاستيك أو حجب بروتينات السم. لكن هذه الأدوات نفسها يمكن استخدامها لصنع سموم أو تغيير سلوك البروتينات الفيروسية.

بعد مرور ما يقرب من عام على تحديد هذا الخطر، لم يكن من الواضح بعد ما يمكن لأي شخص فعله حيال ذلك. يوم الأربعاء، نشر فريق Deep Mind في Google ورقة بحثية تقدم حلاً محتملاً: وضع علامة مائية على البروتينات. ينشئ النظام علامة مائية على تسلسلات البروتين نفسها دون المساس بوظيفة البروتين. وهذا يسمح بتحديد البروتينات الجديدة المصممة من قبل باحثين موثوقين، مما يفتح كل شيء آخر لمزيد من التدقيق.

استند العمل إلى تقنية Synth ID من Google، والتي يمكنها إضافة علامة مائية دقيقة إلى المواد الرقمية المولدة بالذكاء الاصطناعي. تؤثر العلامة المائية على احتمالية اختيارات معينة يقوم بها الذكاء الاصطناعي، وينتهي هذا التحيز موزعاً بشكل منهجي في جميع أنحاء المنتج. نظراً لأنه لا يمكنك تحديد العلامة المائية دون معرفة كيفية ترميزها، فمن المستحيل إزالتها. بدأ فريق Google بأحد أدوات تصميم البروتين الأكثر شيوعاً بالذكاء الاصطناعي، Protein MPNN.

كيانات رئيسية: شركات: Google, Deep Mind | أشخاص: David Baker

سؤال شائع: كيف تعمل العلامة المائية للبروتين من Google؟

يستخدم النظام تقنية Synth ID من Google لإضافة علامة مائية دقيقة إلى تسلسلات البروتين دون المساس بالوظيفة. إنه يؤثر على اختيارات الاحتمالات للذكاء الاصطناعي، موزعاً تحيزاً في جميع أنحاء البروتين. نظراً لأن العلامة المائية غير معروفة بدون مفتاح الترميز، فلا يمكن إزالتها، وتنجو من المعالجة الأساسية مثل تغيير الحجم.

AI-ভিত্তিক সরঞ্জামগুলি প্রায় প্রতিদিনই নিরাপত্তা হুমকি সৃষ্টি করছে বলে মনে হচ্ছে, আংশিকভাবে কারণ আমরা সম্ভাব্য হুমকি চিনতে ধীর ছিলাম। তবে, একটি ক্ষেত্র যেখানে আমরা এগিয়ে আছি তা হলো জীববিজ্ঞান সুরক্ষা। আমরা প্রোটিন ডিজাইনের জন্য ক্রমবর্ধমান জটিল সরঞ্জাম তৈরি করেছি এবং কিছু বড় সাফল্য দেখেছি, যেমন AI-ডিজাইন করা এনজাইম যা প্লাস্টিক হজম করতে পারে বা বিষ প্রোটিন ব্লক করতে পারে। কিন্তু এই একই সরঞ্জামগুলি বিষ তৈরি করতে বা ভাইরাল প্রোটিনের আচরণ পরিবর্তন করতে ব্যবহার করা যেতে পারে।

ঝুঁকিটি চিহ্নিত করার প্রায় এক বছর পরে, এটি এখনও স্পষ্ট ছিল না যে কেউ এটি সম্পর্কে কী করতে পারে। বুধবার, Deep Mind টিম Google-এ একটি গবেষণা পত্র প্রকাশ করেছে যা একটি সম্ভাব্য সমাধান দেয়: প্রোটিন ওয়াটারমার্কিং। সিস্টেমটি প্রোটিনের কার্যকারিতার সাথে আপস না করে প্রোটিন সিকোয়েন্সগুলিতে একটি ওয়াটারমার্ক তৈরি করে। এটি বিশ্বস্ত গবেষকদের দ্বারা ডিজাইন করা নতুন প্রোটিন সনাক্ত করার অনুমতি দেয়, বাকি সবকিছু ঘনিষ্ঠ পরীক্ষার জন্য খুলে দেয়।

কাজটি Google-এর Synth ID প্রযুক্তির উপর ভিত্তি করে ছিল, যা AI-উত্পন্ন ডিজিটাল উপাদানে একটি সূক্ষ্ম ওয়াটারমার্ক যোগ করতে পারে। ওয়াটারমার্কটি AI-এর করা নির্দিষ্ট পছন্দের সম্ভাবনাকে প্রভাবিত করে, এবং সেই পক্ষপাতটি পণ্য জুড়ে পদ্ধতিগতভাবে বিতরণ করা হয়। যেহেতু ওয়াটারমার্কটি কীভাবে এনকোড করা হয়েছে তা না জেনে আপনি সনাক্ত করতে পারবেন না, তাই এটি অপসারণ করা অসম্ভব। Google টিম সবচেয়ে জনপ্রিয় AI প্রোটিন ডিজাইন টুল, Protein MPNN দিয়ে শুরু করেছে।

মূল সত্তা: কোম্পানি: Google, Deep Mind | ব্যক্তি: David Baker

সাধারণ প্রশ্ন: Google-এর প্রোটিন ওয়াটারমার্কিং কীভাবে কাজ করে?

সিস্টেমটি Google-এর Synth ID প্রযুক্তি ব্যবহার করে কার্যকারিতা আপস না করে প্রোটিন সিকোয়েন্সে একটি সূক্ষ্ম ওয়াটারমার্ক যোগ করে। এটি AI-এর সম্ভাব্যতা পছন্দকে প্রভাবিত করে, প্রোটিন জুড়ে একটি পক্ষপাত বিতরণ করে। যেহেতু এনকোডিং কী ছাড়া ওয়াটারমার্কটি অজানা, তাই এটি অপসারণ করা যায় না, এবং এটি আকার পরিবর্তনের মতো মৌলিক প্রক্রিয়ায় টিকে থাকে।

KI-basierte Tools scheinen fast täglich Sicherheitsbedrohungen zu verursachen, teilweise weil wir langsam darin waren, potenzielle Bedrohungen zu erkennen. Ein Bereich, in dem wir jedoch die Nase vorn zu haben scheinen, ist die Biosicherheit. Wir haben immer ausgefeiltere Werkzeuge zum Entwerfen von Proteinen entwickelt und große Erfolge erzielt, wie KI-designte Enzyme, die Kunststoffe verdauen oder Giftproteine blockieren können. Aber dieselben Werkzeuge könnten verwendet werden, um Toxine herzustellen oder das Verhalten viraler Proteine zu verändern.

Fast ein Jahr nachdem dieses Risiko erkannt wurde, war immer noch unklar, was man dagegen tun könnte. Am Mittwoch veröffentlichte das Deep-Mind-Team bei Google ein Forschungspapier, das eine mögliche Lösung bietet: Protein-Wasserzeichen. Das System erstellt ein Wasserzeichen auf den Proteinsequenzen selbst, ohne die Funktion des Proteins zu beeinträchtigen. Dadurch können neue Proteine identifiziert werden, die von vertrauenswürdigen Forschern entworfen wurden, und alles andere wird einer genaueren Prüfung unterzogen.

Die Arbeit basierte auf der Synth-ID-Technologie von Google, die subtile Wasserzeichen zu KI-generiertem digitalem Material hinzufügen kann. Das Wasserzeichen beeinflusst die Wahrscheinlichkeit bestimmter Entscheidungen, die die KI trifft, und diese Verzerrung wird systematisch im gesamten Produkt verteilt. Da Sie das Wasserzeichen nicht identifizieren können, ohne zu wissen, wie es codiert wurde, ist es unmöglich, es zu entfernen. Das Google-Team begann mit einem der beliebtesten KI-Proteindesign-Tools, Protein MPNN.

Wichtige Entitäten: Unternehmen: Google, Deep Mind | Personen: David Baker

Häufig gestellte Frage: Wie funktioniert Googles Protein-Wasserzeichen?

Das System verwendet die Synth-ID-Technologie von Google, um subtile Wasserzeichen zu Proteinsequenzen hinzuzufügen, ohne die Funktion zu beeinträchtigen. Es beeinflusst die Wahrscheinlichkeitsentscheidungen der KI und verteilt eine Verzerrung im gesamten Protein. Da das Wasserzeichen ohne den Codierungsschlüssel unbekannt ist, kann es nicht entfernt werden und übersteht grundlegende Verarbeitung wie Größenänderung.

Las herramientas basadas en IA parecen causar amenazas de seguridad casi a diario, en parte porque hemos sido lentos en reconocer amenazas potenciales. Sin embargo, un área donde parecemos estar adelantados es en la bioseguridad. Hemos desarrollado herramientas cada vez más sofisticadas para diseñar proteínas y hemos visto éxitos importantes, como enzimas diseñadas por IA que pueden digerir plásticos o bloquear proteínas de veneno. Pero estas mismas herramientas podrían usarse para fabricar toxinas o alterar el comportamiento de proteínas virales.

Casi un año después de que se señalara ese riesgo, aún no estaba claro qué se podía hacer al respecto. El miércoles, el equipo de Deep Mind en Google publicó un artículo de investigación ofreciendo una posible solución: la marca de agua de proteínas. El sistema crea una marca de agua en las propias secuencias de proteínas sin comprometer su función. Esto permite identificar nuevas proteínas diseñadas por investigadores confiables, abriendo todo lo demás a un escrutinio más cercano.

El trabajo se basó en la tecnología Synth ID de Google, que puede añadir una marca de agua sutil a material digital generado por IA. La marca de agua influye en la probabilidad de ciertas elecciones que hace la IA, y ese sesgo termina distribuido sistemáticamente por todo el producto. Como no se puede identificar la marca de agua sin saber cómo fue codificada, es imposible eliminarla. El equipo de Google comenzó con una de las herramientas más populares de diseño de proteínas por IA, Protein MPNN.

Entidades clave: Empresas: Google, Deep Mind | Personas: David Baker

Pregunta frecuente: ¿Cómo funciona la marca de agua de proteínas de Google?

El sistema usa la tecnología Synth ID de Google para añadir una marca de agua sutil a las secuencias de proteínas sin comprometer su función. Influye en las elecciones de probabilidad de la IA, distribuyendo un sesgo por toda la proteína. Como la marca de agua es desconocida sin la clave de codificación, no se puede eliminar, y sobrevive a procesamiento básico como redimensionar.

Les outils basés sur l'IA semblent causer des menaces de sécurité presque quotidiennement, en partie parce que nous avons été lents à reconnaître les menaces potentielles. Cependant, un domaine où nous semblons en avance est la biosécurité. Nous avons développé des outils de plus en plus sophistiqués pour concevoir des protéines et avons vu des succès majeurs, comme des enzymes conçues par IA qui peuvent digérer les plastiques ou bloquer les protéines de venin. Mais ces mêmes outils pourraient être utilisés pour fabriquer des toxines ou modifier le comportement de protéines virales.

Près d'un an après que ce risque a été signalé, on ne savait toujours pas quoi faire. Mercredi, l'équipe Deep Mind chez Google a publié un article de recherche offrant une solution potentielle : le filigrane de protéines. Le système crée un filigrane sur les séquences de protéines elles-mêmes sans compromettre la fonction de la protéine. Cela permet d'identifier les nouvelles protéines conçues par des chercheurs de confiance, ouvrant tout le reste à un examen plus approfondi.

Le travail était basé sur la technologie Synth ID de Google, qui peut ajouter un filigrane subtil à du matériel numérique généré par IA. Le filigrane influence la probabilité de certains choix faits par l'IA, et ce biais se retrouve systématiquement distribué dans tout le produit. Parce qu'on ne peut pas identifier le filigrane sans savoir comment il a été encodé, il est impossible de l'enlever. L'équipe de Google a commencé avec l'un des outils de conception de protéines par IA les plus populaires, Protein MPNN.

Entités clés : Entreprises : Google, Deep Mind | Personnes : David Baker

FAQ : Comment fonctionne le filigrane de protéines de Google ?

Le système utilise la technologie Synth ID de Google pour ajouter un filigrane subtil aux séquences de protéines sans compromettre la fonction. Il influence les choix de probabilité de l'IA, distribuant un biais dans toute la protéine. Parce que le filigrane est inconnu sans la clé d'encodage, il ne peut pas être enlevé, et il survit à un traitement de base comme le redimensionnement.

AI-आधारित उपकरण लगभग दैनिक आधार पर सुरक्षा खतरे पैदा करते दिख रहे हैं, आंशिक रूप से क्योंकि हम संभावित खतरों को पहचानने में धीमे रहे हैं। हालाँकि, एक क्षेत्र जहाँ हम खेल से आगे लगते हैं, वह जैव सुरक्षा है। हमने प्रोटीन डिज़ाइन करने के लिए तेज़ी से परिष्कृत उपकरण विकसित किए हैं और कुछ बड़ी सफलताएँ देखी हैं, जैसे AI-डिज़ाइन किए एंजाइम जो प्लास्टिक को पचा सकते हैं या विष प्रोटीन को रोक सकते हैं। लेकिन इन्हीं उपकरणों का उपयोग विषाक्त पदार्थ बनाने या वायरल प्रोटीन के व्यवहार को बदलने के लिए किया जा सकता है।

उस जोखिम को चिह्नित किए जाने के लगभग एक साल बाद, यह स्पष्ट नहीं था कि कोई इसके बारे में क्या कर सकता है। बुधवार को, Deep Mind टीम ने Google में एक शोध पत्र प्रकाशित किया जो एक संभावित समाधान पेश करता है: प्रोटीन वॉटरमार्किंग। यह प्रणाली प्रोटीन अनुक्रमों पर ही एक वॉटरमार्क बनाती है, बिना प्रोटीन के कार्य से समझौता किए। यह विश्वसनीय शोधकर्ताओं द्वारा डिज़ाइन किए गए नए प्रोटीन की पहचान करने की अनुमति देता है, बाकी सब कुछ करीबी जाँच के लिए खोलता है।

यह काम Google की Synth ID तकनीक पर आधारित था, जो AI-जनित डिजिटल सामग्री में एक सूक्ष्म वॉटरमार्क जोड़ सकता है। वॉटरमार्क AI द्वारा किए गए कुछ विकल्पों की संभावना को प्रभावित करता है, और वह पूर्वाग्रह पूरे उत्पाद में व्यवस्थित रूप से वितरित हो जाता है। क्योंकि आप यह जाने बिना वॉटरमार्क की पहचान नहीं कर सकते कि यह कैसे एन्कोड किया गया था, इसे हटाना असंभव है। Google टीम ने सबसे लोकप्रिय AI प्रोटीन डिज़ाइन टूल, Protein MPNN से शुरुआत की।

प्रमुख संस्थाएँ: कंपनियाँ: Google, Deep Mind | लोग: David Baker

सामान्य प्रश्न: Google का प्रोटीन वॉटरमार्किंग कैसे काम करता है?

यह प्रणाली Google की Synth ID तकनीक का उपयोग करती है ताकि कार्य से समझौता किए बिना प्रोटीन अनुक्रमों में एक सूक्ष्म वॉटरमार्क जोड़ा जा सके। यह AI की संभावना विकल्पों को प्रभावित करता है, पूरे प्रोटीन में पूर्वाग्रह वितरित करता है। क्योंकि एन्कोडिंग कुंजी के बिना वॉटरमार्क अज्ञात है, इसे हटाया नहीं जा सकता, और यह आकार बदलने जैसी बुनियादी प्रक्रिया से बच जाता है।

Alat berbasis AI tampaknya menyebabkan ancaman keamanan hampir setiap hari, sebagian karena kita lambat mengenali potensi ancaman. Namun, satu area di mana kita tampaknya lebih maju adalah keamanan hayati. Kita telah mengembangkan alat yang semakin canggih untuk merancang protein dan melihat beberapa keberhasilan besar, seperti enzim rancangan AI yang dapat mencerna plastik atau memblokir protein racun. Tetapi alat yang sama ini dapat digunakan untuk membuat racun atau mengubah perilaku protein virus.

Hampir setahun setelah risiko itu ditandai, masih belum jelas apa yang bisa dilakukan siapa pun. Pada hari Rabu, tim Deep Mind di Google menerbitkan makalah penelitian yang menawarkan solusi potensial: pemberian tanda air protein. Sistem ini membuat tanda air pada urutan protein itu sendiri tanpa mengorbankan fungsi protein. Ini memungkinkan protein baru yang dirancang oleh peneliti tepercaya untuk diidentifikasi, membuka semua hal lain untuk pengawasan lebih dekat.

Pekerjaan ini didasarkan pada teknologi Synth ID Google, yang dapat menambahkan tanda air halus ke materi digital yang dihasilkan AI. Tanda air memengaruhi probabilitas pilihan tertentu yang dibuat AI, dan bias itu akhirnya didistribusikan secara sistematis ke seluruh produk. Karena Anda tidak dapat mengidentifikasi tanda air tanpa mengetahui bagaimana itu dikodekan, mustahil untuk menghapusnya. Tim Google memulai dengan salah satu alat desain protein AI paling populer, Protein MPNN.

Entitas kunci: Perusahaan: Google, Deep Mind | Orang: David Baker

Pertanyaan yang sering diajukan: Bagaimana cara kerja tanda air protein Google?

Sistem ini menggunakan teknologi Synth ID Google untuk menambahkan tanda air halus ke urutan protein tanpa mengorbankan fungsi. Ini memengaruhi pilihan probabilitas AI, mendistribusikan bias ke seluruh protein. Karena tanda air tidak diketahui tanpa kunci pengkodean, ia tidak dapat dihapus, dan ia bertahan dalam pemrosesan dasar seperti mengubah ukuran.

AIベースのツールは、潜在的な脅威を認識するのが遅かったこともあり、ほぼ毎日のようにセキュリティ上の脅威を引き起こしているように見えます。しかし、私たちが先を行っているように見える分野の1つは、バイオセキュリティです。私たちはタンパク質を設計するためのますます洗練されたツールを開発し、プラスチックを消化したり、毒タンパク質をブロックしたりできるAI設計の酵素など、大きな成功を収めてきました。しかし、これらの同じツールは、毒素を作ったり、ウイルスタンパク質の挙動を変えたりするために使用される可能性があります。

そのリスクが指摘されてから約1年後、それに対して何ができるかはまだ明確ではありませんでした。水曜日、GoogleのDeep Mindチームは、潜在的な解決策を提供する研究論文を発表しました：タンパク質の透かしです。このシステムは、タンパク質の機能を損なうことなく、タンパク質配列自体に透かしを作成します。これにより、信頼できる研究者によって設計された新しいタンパク質を識別でき、他のすべてをより厳密な精査にさらすことができます。

この作業は、GoogleのSynth IDテクノロジーに基づいており、AI生成のデジタル素材に微妙な透かしを追加できます。透かしはAIが行う特定の選択の確率に影響を与え、そのバイアスは製品全体に体系的に分散されます。透かしがどのようにエンコードされたかを知らなければ識別できないため、削除することは不可能です。Googleチームは、最も人気のあるAIタンパク質設計ツールの1つであるProtein MPNNから始めました。

主要エンティティ：企業：Google、Deep Mind | 人物：David Baker

よくある質問：Googleのタンパク質透かしはどのように機能しますか？

このシステムは、GoogleのSynth IDテクノロジーを使用して、機能を損なうことなくタンパク質配列に微妙な透かしを追加します。AIの確率選択に影響を与え、タンパク質全体にバイアスを分散させます。エンコードキーなしでは透かしが不明なため、削除できず、サイズ変更などの基本的な処理でも生き残ります。

Ferramentas baseadas em IA parecem causar ameaças de segurança quase diariamente, em parte porque fomos lentos em reconhecer ameaças potenciais. No entanto, uma área em que parecemos estar à frente é a biossegurança. Desenvolvemos ferramentas cada vez mais sofisticadas para projetar proteínas e vimos grandes sucessos, como enzimas projetadas por IA que podem digerir plásticos ou bloquear proteínas de veneno. Mas essas mesmas ferramentas podem ser usadas para fazer toxinas ou alterar o comportamento de proteínas virais.

Quase um ano após esse risco ser sinalizado, ainda não estava claro o que se poderia fazer a respeito. Na quarta-feira, a equipe Deep Mind do Google publicou um artigo de pesquisa oferecendo uma solução potencial: marca d'água de proteínas. O sistema cria uma marca d'água nas próprias sequências de proteínas sem comprometer a função da proteína. Isso permite identificar novas proteínas projetadas por pesquisadores confiáveis, abrindo todo o resto para um exame mais próximo.

O trabalho foi baseado na tecnologia Synth ID do Google, que pode adicionar uma marca d'água sutil a material digital gerado por IA. A marca d'água influencia a probabilidade de certas escolhas que a IA faz, e esse viés acaba distribuído sistematicamente por todo o produto. Como você não pode identificar a marca d'água sem saber como ela foi codificada, é impossível removê-la. A equipe do Google começou com uma das ferramentas de design de proteínas por IA mais populares, Protein MPNN.

Entidades-chave: Empresas: Google, Deep Mind | Pessoas: David Baker

Pergunta frequente: Como funciona a marca d'água de proteínas do Google?

O sistema usa a tecnologia Synth ID do Google para adicionar uma marca d'água sutil às sequências de proteínas sem comprometer a função. Ele influencia as escolhas de probabilidade da IA, distribuindo um viés por toda a proteína. Como a marca d'água é desconhecida sem a chave de codificação, ela não pode ser removida e sobrevive a processamento básico como redimensionamento.

Инструменты на основе ИИ, похоже, создают угрозы безопасности почти ежедневно, отчасти потому, что мы медленно распознавали потенциальные угрозы. Однако одна область, в которой мы, похоже, впереди, — это биобезопасность. Мы разработали все более сложные инструменты для проектирования белков и добились крупных успехов, таких как созданные ИИ ферменты, которые могут переваривать пластик или блокировать ядовитые белки. Но эти же инструменты могут быть использованы для создания токсинов или изменения поведения вирусных белков.

Почти через год после того, как этот риск был отмечен, все еще было неясно, что с этим можно сделать. В среду команда Deep Mind в Google опубликовала исследовательскую работу, предлагающую потенциальное решение: нанесение водяного знака на белки. Система создает водяной знак на самих последовательностях белков, не ставя под угрозу функцию белка. Это позволяет идентифицировать новые белки, созданные доверенными исследователями, открывая все остальное для более пристального внимания.

Работа была основана на технологии Synth ID от Google, которая может добавлять тонкий водяной знак к цифровым материалам, созданным ИИ. Водяной знак влияет на вероятность определенных выборов, которые делает ИИ, и это смещение систематически распределяется по всему продукту. Поскольку вы не можете идентифицировать водяной знак, не зная, как он закодирован, его невозможно удалить. Команда Google начала с одного из самых популярных инструментов проектирования белков с ИИ, Protein MPNN.

Ключевые объекты: Компании: Google, Deep Mind | Люди: David Baker

Часто задаваемый вопрос: Как работает водяной знак белков от Google?

Система использует технологию Synth ID от Google для добавления тонкого водяного знака на последовательности белков без ущерба для функции. Она влияет на вероятностные выборы ИИ, распределяя смещение по всему белку. Поскольку водяной знак неизвестен без ключа кодирования, его нельзя удалить, и он переживает базовую обработку, такую как изменение размера.

基于AI的工具似乎几乎每天都会造成安全威胁，部分原因是我们对潜在威胁的认识一直很慢。然而，在一个领域我们似乎走在了前面，那就是生物安全。我们已经开发出越来越复杂的蛋白质设计工具，并取得了一些重大成功，例如AI设计的酶可以消化塑料或阻断毒液蛋白。但这些工具也可能被用来制造毒素或改变病毒蛋白的行为。

在风险被标记近一年后，仍不清楚任何人能对此做些什么。周三，Deep Mind团队在Google发布了一篇研究论文，提出了一个潜在的解决方案：蛋白质水印。该系统在蛋白质序列本身上创建水印，而不损害蛋白质的功能。这使得由可信研究人员设计的新蛋白质能够被识别，从而让其他所有蛋白质都受到更严格的审查。

这项工作基于谷歌的Synth ID技术，该技术可以为AI生成的数字材料添加微妙的水印。水印影响AI做出的某些选择的概率，这种偏差最终系统地分布在整个产品中。因为如果你不知道水印是如何编码的，就无法识别它，所以不可能移除它。谷歌团队从最流行的AI蛋白质设计工具之一Protein MPNN开始。

关键实体：公司：Google、Deep Mind | 人物：David Baker

常见问题：谷歌的蛋白质水印是如何工作的？

该系统使用谷歌的Synth ID技术，在不损害功能的情况下为蛋白质序列添加微妙的水印。它影响AI的概率选择，将偏差分布到整个蛋白质中。由于没有编码密钥就无法知道水印，因此无法移除，并且它能在基本处理（如调整大小）中存活。