HeadlinesBriefing favicon HeadlinesBriefing.com

Project HydraFusion: モデルオーケストレーション

Hacker News •
×

手元のタスクに最適なモデルを開発者に提供することは、常に私たちの目標でした。今年の初めに、タスクを確認し、そのタスクに最適なモデルにマッチングするAutoモデル選択を開始することで、これを容易にしました。今日、私たちはProject Hydra Fusionを発表します。これは、ランタイムオーケストレーションを通じて最先端のインテリジェンスを提供する研究プレビューです。これは完全な実行計画を作成し、複数のプロバイダーのモデルから選択して、ドラフト、批評、改訂を行い、またはタスクを完了するためにより強力なモデルにカスケードします。

Hydra Fusionは、ローカル、クラウド、および複合モデル間の自動セマンティックルーティングを提供するという当社の全体的な戦略において重要な役割を果たします。開発者にとって、その複雑さは舞台裏に残ります。他のモデルと同じようにHydra Fusionを選択すると、各タスクのパフォーマンス、コスト、レイテンシーのバランスを取るワークフローを選択します。Hydra Fusionは、ワークフロー選択を最適化問題として扱います。推論、コード生成、デバッグ、ツール使用の能力シグナルを使用して、品質基準を満たす最も効率的な実行パターンを選択します。

各リクエストに対して、Hydra Fusionは現在、Single、Cascade、Critiqueの3つの実行パターンのいずれかを選択します。各パターンは、品質とコストの異なるトレードオフに対応します。3つのエージェンティックコーディングベンチマークでのオフライン評価において、Hydra Fusionは一貫して最先端レベルの品質と大幅な推定コスト削減を示しました。Terminal Bench 2.1では、Claude Opus 5と比較して、推定コストを67%削減し、検証済みタスク品質を4.9パーセントポイント向上させました。

主要エンティティ:企業:GitHub