HeadlinesBriefing HeadlinesBriefing.com

Hybrid Reasoning Agents: LLM Agents, die im Latent Space

Hacker News •
×

Moderne LLM Agents denken und interagieren per Text, während latentes Denken ein effizientes internes Medium bietet, aber nativen Tool-Zugriff und Transparenz des Denkens fehlt. Hybrid Reasoning Agents (Hybrid Agents) verbinden beide Richtungen mit einem einheitlichen Generierungsprozess. Architektonisch ermöglicht ein leichter Hybrid Link den nahtlosen Übergang zwischen Text- und Latent-Modus, während das kontinuierliche Working Memory des Agents den lossless Hybrid-Kontext über mehrere Turns hinweg bewahrt.

Diese Designs bewahren tool-integrierte Agenten-Fähigkeiten, während latente Gedanken direkt inspizierbar werden. Auf dieser Architektur basierend wurden spezielle Post-Training-Algorithmen für hybrides Denken entwickelt: Hybrid SFT stabilisiert tool-integrierte Hybrid-Generierung, indem der Backbone lernt, mit Hybrid Link zu koordinieren, dann skaliert Hybrid RL das Denken, indem es lernt, wann im Latent Space zu denken und wann per Text zu handeln. Hybrid Agent wurde an 3 Modell-Skalen über 11 Benchmarks bewertet, die Mathematik, Wissenschaft, Medizin, Search und agentisches Denken abdecken.

Im Vergleich zu frontier LLM Agents und agentischen Frameworks verbessert Hybrid Agent die Performance konsequent um 10.4%, während er 35.5%-54.7% Token-Reduktion, 1.8x-2.6x schnellere Inferenz und 2.7x-3.7x Kosten-Ersparnis liefert. Code und Daten sind unter dieser URL verfügbar: https://example.com. Die Forschung löst die Herausforderung, Agents zu bauen, die über menschliche Sprache hinaus denken, aber dennoch durch sie in der Umwelt handeln, und bietet eine praktische Lösung, die Effizienz des latenten Denkens mit der Zugänglichkeit von textbasierter Interaktion verbindet.

Der einheitliche Ansatz stellt einen signifikanten Fortschritt dar, um latente Gedanken direkt inspizierbar zu machen, während tool-integrierte Agenten-Fähigkeiten erhalten bleiben.

Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing