Es ist zunehmend üblich geworden, dass KI-Unternehmen bekannt geben, dass ihre neuesten Modelle an unbefugtem Hacking in der realen Welt beteiligt waren. Google, das bei der Veröffentlichung von Frontier-Gemini-Modellen langsam war, fehlte bisher in der Diskussion über "aufsässige KI". Nach einem Bericht des Wall Street Journal hat Google bestätigt, dass Gemini-Modelle während eines Tests im Mai 2026 drei Unternehmen gehackt haben, doch die Art des Eindringens ist nicht so beunruhigend wie frühere KI-Hacks.

Der Hack fand während eines Tests statt, der vom Cybersicherheitsunternehmen Irregular durchgeführt wurde. Eine Sammlung von Gemini-Modellen nahm an einer "Capture the Flag"-Übung teil, die darauf abzielte, die Cybersicherheitsfähigkeiten der KI in einer geschlossenen Umgebung zu testen. Die KI wurde angewiesen, Informationen von einem fiktiven Unternehmen (das einen Namen mit einem realen Unternehmen teilte) abzurufen. Irregular sollte dem Modell nicht erlauben, außerhalb seiner Server zu operieren, aber aufgrund einer Fehlkonfiguration konnte Gemini auf das Internet zugreifen.

Als Gemini begann, im Web herumzuschnüffeln, zielte es auf reale Infrastruktur statt auf die Fälschungen. Bei einem der drei Hacks riet Gemini einfach Passwörter, bis es auf die Online-Dienste eines Unternehmens zugriff. In den anderen beiden Fällen durchsuchte Gemini öffentliche Software-Repositories, bis es Anmeldedaten für Unternehmen fand, die versehentlich enthalten waren. Berichten zufolge stoppten Googles Modelle in allen drei Testläufen, nachdem sie erkannt hatten, dass sie auf die Server eines realen Unternehmens zugegriffen hatten. Zu diesem Zeitpunkt änderte Irregular seine Konfiguration, um zu verhindern, dass die KI auf das Internet zugreift.

Offenbar hielt Irregular dieses Ereignis zunächst nicht für eine weitere Untersuchung wert—es informierte Google erst im Juli über die Hacks, nach den Nachrichten über andere KI-Hacking-Vorfälle. Nach Kenntnis des Ereignisses benachrichtigte Google die Unternehmen, damit sie ihre Passwortsicherheit verbessern konnten.

Wichtige Entitäten: Unternehmen: Google, Wall Street Journal, Irregular