HeadlinesBriefing favicon HeadlinesBriefing.com

Unreal Agent:Unreal Labs のコスト効率 AI エージェント

Hacker News •
×

AI エージェントの最先端のコスト効率に関心があれば、ぜひ一緒に取り組みましょう!お問い合わせ:[email protected]。実環境でエージェントを展開する中で、素早く応答し、コスト効率が良いことを望んでいました。エージェントがツール呼び出しの管理に時間とトークンを費やしていることに気づき、ツール管理のオーバーヘッドを削減するハーネスを備えた Unreal Agent を構築しました。ハーネスはツール呼び出しを非同期で管理し、モデルを待機、ポーリング、ハートビートから解放します。これにより、ユーザーはツール呼び出しを待たずにエージェントを操作でき、モデル呼び出しの間に、より有用なツール作業をスケジュールできます。現在のバージョンは、実際のワークロードとベンチマークにおいて、Codex 比で最大 40%Pi 比で最大 20% のコスト削減を実現します。

エージェントファーストの製品を構築する場合、黄金の道はありません。大手ブランドの SDK にはトレードオフがあります。Claude の Agent SDK のような CLI 指向の SDK は、ローカルセッションとサブプロセスを前提とし、カスタムのライフサイクル管理が必要です。他のプロバイダーをサポートすると、互換性の作業が増えます。重い依存関係は、メンテナンスとサプライチェーンのリスクを増やします。ハーネスフックによるセキュリティと承認は、決定論的なサンドボックス制約よりも堅牢でない傾向があります。また、遅延なくユーザーの操作を受け入れ、追加の認知負荷なしに異種のツール呼び出しをさばくハーネスも望んでいました。たとえば、コードを探索しウェブを並行して検索しながら、開発環境のセットアップを開始することを、トークン税なしで行うことです。各ツール呼び出しは「進行中」状態のイベントログレコードを追加し、バックグラウンドで継続します。完了すると、結果を追加し、LLM を呼び出します。これをキャッシュを壊さずに機能させることは、エンジニアリング上の課題でした。

Unreal Agent は、より少ないモデルターンと入力トークンで同じ成果を達成します。コスト削減は、最小限のハーネスフットプリント、トークン最適化されたツール結果、サブエージェントなし、モデルターンあたりのより多くのツール作業からもたらされます。非同期のツール呼び出しモデルにより、ポーリングや待機にトークンを浪費することなく、ターンあたりより多くの重いツール呼び出しが可能になります。私たちは Unreal Agent を実際の本番ワークフロー向けに構築し、ベンチマークでも好成績を収めています。

主要エンティティ:企業:Unreal Labs、Codex、Pi、Claude

FAQ:Unreal Agent はどのようにコスト削減を実現しますか?

Unreal Agent は、最小限のハーネスフットプリント、トークン最適化されたツール結果、サブエージェントやワークフローなし、そしてポーリングや待機にトークンを浪費することなくターンあたりより多くの重いツール呼び出しを可能にする非同期のツール呼び出しモデルによってコスト削減を実現します。Codex と比較して最大 40%、Pi と比較して最大 20% のコスト削減を達成します。

FAQ 質問:Unreal Agent はどのようにコスト削減を実現しますか?

FAQ 回答:Unreal Agent は、最小限のハーネスフットプリント、トークン最適化されたツール結果、サブエージェントやワークフローなし、そしてポーリングや待機にトークンを浪費することなくターンあたりより多くの重いツール呼び出しを可能にする非同期のツール呼び出しモデルによってコスト削減を実現します。Codex と比較して最大 40%、Pi と比較して最大 20% のコスト削減を達成します。