現代のLLMエージェントはテキストを通じて推論し、 interactする一方、潜在推論は効率的な内部表現を提供するが、ネイティブなツールアクセスと推論の透明性が欠ける。ハイブリッド推論エージェント（ハイブリッドエージェント）は、統一された生成プロセスでこの2つの方向を結びつける。アーキテクチャ上、軽量なハイブリッドLinkがテキストモードと潜在モードの間のシームレスな遷移を可能にし、エージェントの連続的なワーキングメモリが複数ターンにわたる無损のハイブリッドコンテキストを保存する。これらの設計は、ツール統合型エージェント機能を維持しつつ、潜在思考を直接監視可能にする。このアーキテクチャに基づき、ハイブリッド推論用の専用ポストトレーニングアルゴリズムが開発された：ハイブリッドSFTは、バックボーンがハイブリッドLinkと協調するように教えることで、ツール統合型ハイブリッド生成を安定させ、その後ハイブリッドRLは、潜在空間で思考する时机とテキストを通じて行動する时机を学習することで推論をスケールする。ハイブリッドエージェントは、数学、科学、医学、検索、エージェント推論をカバーする11のベンチマークで3つのモデルスケールで評価された。最先端のLLMエージェントやエージェントフレームワークと比較して、ハイブリッドエージェントは一貫して10.4%の性能向上を達成し、35.5%-54.7%のトークン削減、1.8x-2.6xの高速推論、2.7x-3.7xのコスト削減を実現した。コードとデータは、このURLで利用可能：https://example.com。本研究は、人間言語を超えて思考するが、 nevertheless外部環境でそれを通じて行動するエージェント構築の課題に取り組み、潜在推論の効率性とテキストベース対話の利便性を組み合わせた実用的な解决方案を提供する。統一的なアプローチは、ツール統合型エージェント機能を維持しつつ、潜在思考を直接監視可能にする上で大きな進展を示している。
出典: Hacker News · 要約：HeadlinesBriefing