Wenn Sie an前沿 Kosteneffizienz für Ihre KI-Agenten interessiert sind, würden wir gerne zusammenarbeiten! Kontaktieren Sie uns: [email protected]. Beim Einsatz von Agenten in der Praxis wollten wir, dass sie schnell reagieren und kosteneffizient sind. Wir bemerkten, dass Agenten Zeit und Tokens für die Verwaltung von Tool-Aufrufen aufwenden, also bauten wir Unreal Agent mit einem Harness, der den Overhead der Tool-Verwaltung reduziert. Der Harness verwaltet Tool-Aufrufe asynchron und befreit das Modell von Wartezeiten, Polling und Heartbeats. Dies ermöglicht es Nutzern, den Agenten zu steuern, ohne auf Tool-Aufrufe zu warten, und plant mehr nützliche Tool-Arbeit zwischen Modellaufrufen ein. Die aktuelle Version erzielt bis zu 40 % Kosteneinsparungen gegenüber Codex und bis zu 20 % gegenüber Pi in realen Workloads und Benchmarks.

Wenn Sie ein agentenorientiertes Produkt bauen, gibt es keinen Königsweg. SDKs großer Marken haben Kompromisse: CLI-orientierte SDKs wie Claudes Agent SDK gehen von lokalen Sitzungen und Subprozessen aus und erfordern benutzerdefiniertes Lifecycle-Management. Die Unterstützung anderer Anbieter bedeutet zusätzlichen Kompatibilitätsaufwand. Schwere Abhängigkeiten erhöhen Wartungs- und Lieferkettenrisiken. Sicherheit und Genehmigungen über Harness-Hooks sind tendenziell weniger robust als deterministische Sandbox-Einschränkungen. Wir wollten außerdem einen Harness, der Nutzersteuerung ohne Verzögerung akzeptiert und heterogene Tool-Aufrufe ohne zusätzliche kognitive Belastung bewältigt. Zum Beispiel das Starten der Einrichtung einer Entwicklungsumgebung, während parallel Code erkundet und im Web gesucht wird, ohne Token-Steuer. Jeder Tool-Aufruf fügt einen Event-Log-Eintrag im Status „in Bearbeitung“ hinzu, der im Hintergrund weiterläuft; nach Abschluss fügen wir das Ergebnis hinzu und rufen ein LLM auf. Dies ohne Cache-Bruch zum Laufen zu bringen, war eine technische Herausforderung.

Unreal Agent erzielt dieselben Ergebnisse mit weniger Modell-Turns und Input-Tokens. Die Kosteneinsparungen kommen durch minimalen Harness-Footprint, token-optimierte Tool-Ergebnisse, keine Sub-Agenten und mehr Tool-Arbeit pro Modell-Turn. Das asynchrone Tool-Aufrufmodell ermöglicht mehr schwere Tool-Aufrufe pro Turn, ohne Tokens für Polling oder Warten zu verschwenden. Wir haben Unreal Agent für echte Produktions-Workflows gebaut, und in Benchmarks sieht es ebenfalls gut aus.

Wichtige Entitäten: Unternehmen: Unreal Labs, Codex, Pi, Claude