HeadlinesBriefing favicon HeadlinesBriefing.com

Eine Million Agenten: Problem verteilter Systeme

Hacker News •
×

Ich denke über Agenten so nach, wie ich über Menschen nachdenke. Ein Agent ist ein Arbeiter. Tausend Agenten sind eine Organisation, und eine Organisation von Maschinen ist ein verteiltes System. Die Leute sagen mir ständig, dass Agenten für immer laufen können. Technisch gesehen stimmt das. Sie können ein Modell in einer Schleife aufrufen, bis Ihre Kreditkarte abgelehnt wird. Aber der Agent läuft immer noch auf endlichen Dingen: Tokens, Kontext, Rechenleistung, Speicher, Werkzeuge, Geld. Etwas geht immer aus. Menschen sind nicht viel anders. Wir arbeiten eine Weile und werden müde. Unser Arbeitsgedächtnis ist winzig. Wir vergessen Dinge. Also schreiben wir die wichtigen Teile auf, schlafen und kommen am nächsten Morgen mit klarem Kopf und derselben Identität zurück. Maschinen haben dieselbe Einschränkung in anderer Form. Einer Box geht die CPU aus. Einem Pod geht der Speicher aus. Niemand behebt das, indem er annimmt, dass jeder Prozess für immer leben sollte. Wir planen Arbeit über die Ressourcen, die wir haben. Ich sehe nicht, warum Intelligenz eine Ausnahme bekommt. Ein Agent kann eine Weile arbeiten, aufschreiben, was wichtig ist, seinen Kontext löschen und sich selbst oder einem anderen Agenten erlauben, von dort fortzufahren. Wir betreiben unsere eigenen Codierungsagenten auf VPS bei Ins Forge, und sie werden ständig getötet, neu gestartet und haben keinen Kontext mehr. Die Fehler, die wirklich wehtun, sind die, bei denen der Plan nur im Kontextfenster des Agenten lebte.

Das Hinzufügen von Agenten half paralleler Arbeit um bis zu 80,9% und schadete sequenzieller Arbeit um 39% bis 70% in der 180-Konfigurationsstudie von Google Research. Die Form der Aufgabe entscheidet. Ein Orchestrator reduzierte die Fehlerverstärkung von 17,2× auf 4,4× in derselben Studie. Koordination ist eine echte Aufgabe. In Silo-Bench (ACL 2026) sprachen Teams von 2 bis 100 Agenten viel und argumentierten schlecht. Die schwierigsten Aufgaben erreichten bei 50 Agenten null Erfolg. Das Dauerhafte sollte also der Zustand sein, nicht der Agent. Planen Sie Agenten wie Prozesse und stellen Sie sie wie Knoten wieder her.

Agenten beginnen, wie Prozesse auszusehen. Das ist vor einiger Zeit keine Analogie mehr. Es gibt eine ganze Forschungslinie, die das aufbaut. AIOS, ein "LLM-Agenten-Betriebssystem" von Rutgers, eröffnet das Problem in einem Satz: "Unbeschränkter Zugriff auf LLM- oder Tool-Ressourcen kann zu ineffizienter oder sogar potenziell schädlicher Ressourcenzuweisung und -nutzung für Agenten führen." Ihre Antwort ist ein Kernel. Jede Agentenanfrage wird in Systemaufrufe zerlegt, ein Scheduler entscheidet, wessen Aufruf als Nächstes läuft, und ein Kontextmanager macht einen Schnappschuss des Agenten mitten in der Aufgabe, damit er unterbrochen und fortgesetzt werden kann. Sie berichten von bis zu 2,1× schnellerer Ausführung bei der Bereitstellung von Agenten, die auf bestehenden Frameworks aufbauen. Planung, Kontextwechsel, Speicherverwaltung, Speicherung, Zugriffskontrolle. Das ist ein Betriebssystem. Die Prozesse denken nur zufällig.

Es zahlt sich auch eine Ebene höher aus. LLM-as-Scheduler, von ACL 2026, geht von der Beobachtung aus, dass die meisten Abfragen keinen schweren Multi-Agenten-Workflow verdienen, und lässt einen Scheduler den Workflow pro Abfrage wählen. Sie erzielten 43% weniger Tokens und mehr als 36% geringere End-to-End-Latenz, bei einem Genauigkeitsverlust von höchstens 1,4 Prozentpunkten gegenüber einem starken festen Workflow. Ein Agent sieht also wie ein Prozess aus, und Tausende von Prozessen brauchen einen Scheduler. Gut. Aber Rechenleistung zu planen ist nur die Hälfte. Sie müssen auch die Agenten untereinander koordinieren, und da wird es interessant. Zehn Personen koordinieren sich. Zehntausend erfinden Manager. Zehn Personen können sich in einem Raum koordinieren. Tausend Personen können nicht alle miteinander sprechen und unabhängig entscheiden, was das Unternehmen tun sollte, also haben wir Teams, Manager, Abteilungen und schließlich einen CEO erfunden. Manager existieren teilweise, weil Koordination selbst Arbeit ist und jemand sie tun muss. Ich habe angenommen, dass Agenten dasselbe Problem haben würden. Jetzt gibt es Daten. Google Research und MIT führten eine kontrollierte Studie mit 180 Agentenkonfigurationen über fünf Architekturen und drei Modellfamilien durch. Ihre Schlagzeile: "Der Ansatz 'mehr Agenten' stößt oft an eine Decke und kann sogar..."