Gemini 4 Argon markiert einen Fortschritt in dem, was KI-Modelle leisten können, insbesondere bei tiefgehender Arbeit an komplexen Aufgaben aus der realen Welt in den Bereichen Programmierung, Finanzen, Recht, Cybersicherheit und Wissenschaft. Seine Fähigkeiten in der Cyberabwehr sind auf Spitzenniveau und sollen Verteidigern einen Vorteil gegenüber Angreifern verschaffen. Vor einer breiten Veröffentlichung gewährte Google Cyberabwehrexperten zunächst über sein Fairwind-Programm Zugang, während die eigenen Sicherheitsteams das Modell nutzten, um kritische Systeme innerhalb und außerhalb von Google zu prüfen.
Dieser begrenzte Zugang zeigte, warum diese Fähigkeiten wichtig sind. Wiz nutzte Argon, um einen kritischen Fehler in einer Krankenhaussoftware aufzudecken, den frühere Modelle übersehen hatten, und half so, Hunderttausende Patientenakten zu schützen. Die Sicherheitsteams von Google nutzten Argon, um Fehler in interner und quelloffener Software zu finden und zu beheben, darunter grundlegende Schwachstellen, die weltweit Systeme betreffen und derzeit im Rahmen einer verantwortungsvollen Offenlegung bearbeitet werden. Google beginnt nun mit der breiten Einführung von Argon und erweitert das Fairwind-Programm auf weitere vertrauenswürdige Cyberabwehrexperten.
Google konzentrierte sich auf zwei zentrale Fragen. Die erste betrifft Missbrauch: Wie lässt sich verhindern, dass böswillige Akteure das Modell nutzen, um Cyberangriffe zu starten oder biologische Bedrohungen zu erzeugen. Die zweite betrifft Fehlausrichtung: Wie lässt sich sicherstellen, dass das Modell nicht abkürzt, Grenzen überschreitet oder in folgenreichen Situationen falsche Entscheidungen trifft. Argon löste alle 12 simulierten Cyberangriffsszenarien von Anfang bis Ende, gegenüber fünf in der Vorgängergeneration, weshalb die Schutzmaßnahmen im Cyber- und im biologischen Bereich verstärkt wurden.
Argon ist deutlich besser darin, schädliche Anfragen abzulehnen, als frühere Modelle. Bei einem adversariellen Stresstest sanken die Verstöße nahezu auf die Hälfte. Das Modell ist zudem von drei Schutzschichten in Echtzeit umgeben: einer Eingabeprüfung auf böswillige Absichten, einer internen Selbstprüfung mithilfe von Aktivierungssonden, die Wissen über Cyberangriffe oder Biologie erkennen, und einer kontinuierlichen Überwachung, die eine Antwort mitten im Fluss abbrechen kann, wenn sie problematisch wird. Googles vollständiger Bericht zu Sicherheit und Schutz beschreibt diese Abwehrmaßnahmen im Detail.
Quelle: Google DeepMind Blog · Zusammengefasst von HeadlinesBriefing