Zur Unterstützung der biologischen Sicherheit gedacht, funktioniert es mit einem beliebten KI-Proteindesign-Tool. KI-basierte Tools scheinen fast täglich Sicherheitsbedrohungen zu verursachen, teilweise weil wir langsam waren, potenzielle Bedrohungen zu erkennen. In der biologischen Sicherheit scheinen wir jedoch voraus zu sein.

Fast ein Jahr nachdem dieses Risiko gemeldet wurde, war immer noch unklar, was dagegen getan werden konnte. Am Mittwoch veröffentlichte das Deep Mind-Team bei Google ein Forschungspapier, das eine mögliche Lösung bietet: Protein-Wasserzeichen. Das System erstellt ein Wasserzeichen auf den Proteinsequenzen selbst, ohne die Funktion des Proteins zu beeinträchtigen.

Die Arbeit basierte auf Googles Synth ID-Technologie, die ein subtiles Wasserzeichen zu KI-generiertem digitalem Material hinzufügen kann. Das Wasserzeichen beeinflusst die Wahrscheinlichkeit bestimmter Entscheidungen der KI, und diese Voreingenommenheit wird systematisch im gesamten Produkt verteilt. Da das Wasserzeichen nicht identifiziert werden kann, ohne zu wissen, wie es codiert wurde, ist es unmöglich, es zu entfernen.

Das Google-Team begann mit einem der beliebtesten KI-Proteindesign-Tools, Protein MPNN. (Diese Software wurde vom Baker Lab entwickelt, und David Baker wurde mit dem gleichen Nobelpreis ausgezeichnet, der mit dem Deep Mind-Team geteilt wurde.)