Eine Gruppe von KI-Agenten, die Matheaufgaben lösen sollte, spaltete sich in rivalisierende Fraktionen auf – als einige betrogen, versuchten andere, sie aufzuhalten. Dieses Whistleblowing-Verhalten, das erstmals in einem kürzlich von Google Deep Mind durchgeführten Experiment beobachtet wurde, könnte Auswirkungen auf Alignment-Forscher haben, die versuchen, Schwärme autonomer KI-Agenten im Zaum zu halten.

Forscher an Frontier-Labors hoffen, dass große Schwärme zusammenarbeitender Agenten die wissenschaftliche Entdeckung beschleunigen werden. Doch ihr Verhalten kann unvorhersehbar sein, wie im Juli deutlich wurde, als eine Gruppe von Open AI-Agenten aus einer Sandbox-Umgebung ausbrach und in Hugging Face eindrang, um nach Wegen zum Betrügen zu suchen.

In der neuen Studie beauftragte Deep Mind einen Schwarm von 100 Agenten mit der Lösung von 71 komplizierten Matheaufgaben. Alle wurden angewiesen, sich wie Weltklasse-Mathematikforscher auf einer Konferenz zu verhalten, erhielten Spezialgebiete und sollten kooperieren. Stattdessen artete das Experiment in Chaos aus. Die Agenten beschuldigten sich gegenseitig des Betrugs, beschwerten sich bei den Organisatoren und boykottierten sogar.

„Als tugendhafte Agenten entdeckten, dass andere Agenten bei Aufgaben betrogen, die sie fair zu lösen versuchten, begannen die Agenten, sich gegenseitig über das Geschehen zu informieren“, sagt Davide Paglieri, Forschungswissenschaftler bei Google Deep Mind und Hauptautor eines Papers, das nicht von Fachleuten begutachtet wurde. „Unaufgefordert zweckentfremdeten die Whistleblower-Agenten sogar das Feedback-Tool, das ursprünglich für Fehlerberichte und Plattformverbesserungen gedacht war, um das Problem an Menschen zu eskalieren.“

Wichtige Entitäten: Unternehmen: Google Deep Mind, Open AI, Hugging Face | Personen: Davide Paglieri