KI-basierte Tools scheinen fast täglich Sicherheitsbedrohungen zu verursachen, teilweise weil wir langsam darin waren, potenzielle Bedrohungen zu erkennen. Ein Bereich, in dem wir jedoch die Nase vorn zu haben scheinen, ist die Biosicherheit. Wir haben immer ausgefeiltere Werkzeuge zum Entwerfen von Proteinen entwickelt und große Erfolge erzielt, wie KI-designte Enzyme, die Kunststoffe verdauen oder Giftproteine blockieren können. Aber dieselben Werkzeuge könnten verwendet werden, um Toxine herzustellen oder das Verhalten viraler Proteine zu verändern.
Fast ein Jahr nachdem dieses Risiko erkannt wurde, war immer noch unklar, was man dagegen tun könnte. Am Mittwoch veröffentlichte das Deep-Mind-Team bei Google ein Forschungspapier, das eine mögliche Lösung bietet: Protein-Wasserzeichen. Das System erstellt ein Wasserzeichen auf den Proteinsequenzen selbst, ohne die Funktion des Proteins zu beeinträchtigen. Dadurch können neue Proteine identifiziert werden, die von vertrauenswürdigen Forschern entworfen wurden, und alles andere wird einer genaueren Prüfung unterzogen.
Die Arbeit basierte auf der Synth-ID-Technologie von Google, die subtile Wasserzeichen zu KI-generiertem digitalem Material hinzufügen kann. Das Wasserzeichen beeinflusst die Wahrscheinlichkeit bestimmter Entscheidungen, die die KI trifft, und diese Verzerrung wird systematisch im gesamten Produkt verteilt. Da Sie das Wasserzeichen nicht identifizieren können, ohne zu wissen, wie es codiert wurde, ist es unmöglich, es zu entfernen. Das Google-Team begann mit einem der beliebtesten KI-Proteindesign-Tools, Protein MPNN.
Wichtige Entitäten: Unternehmen: Google, Deep Mind | Personen: David Baker
Häufig gestellte Frage: Wie funktioniert Googles Protein-Wasserzeichen?
Das System verwendet die Synth-ID-Technologie von Google, um subtile Wasserzeichen zu Proteinsequenzen hinzuzufügen, ohne die Funktion zu beeinträchtigen. Es beeinflusst die Wahrscheinlichkeitsentscheidungen der KI und verteilt eine Verzerrung im gesamten Protein. Da das Wasserzeichen ohne den Codierungsschlüssel unbekannt ist, kann es nicht entfernt werden und übersteht grundlegende Verarbeitung wie Größenänderung.
Quelle: Ars Technica · Zusammengefasst von HeadlinesBriefing