Prime AgentをRustで書き直し
8月にPrime Agentを公開して以来、ダウンロード数は30万件を超え、トークン処理量は8兆を超えました。本日、チームはRustでゼロから書き直した、より高速でクリーンなバージョンを公開します。
2週間にわたり、Prime Agentは2,000を超えるエージェントの群れを統括し、自身をエンドツーエンドで書き直しました。作業は10,000を超えるPrime Sandboxにまたがり、Prime InferenceのGLM-5.3エンドポイントから2,000億を超えるトークンを使用しました。この書き直しでは、大規模なエージェント群のためのサンドボックスと推論基盤、自律的な研究、強化学習など、マルチエージェント機能への負荷テストも行われました。
機能の同等性を確保するため、Prime Agentはサブエージェントを使って依存関係をトポロジカルソートし、ループを伴う計算と正しさの検証を有限状態機械で構造化しました。保守性を高めるためにコードのアーキテクチャも書き直されました。実行時ベンチマークと実際のトレースを用いて性能指標を改善し、バグを切り分けました。現在、Prime Agentはほとんどのコーディングエージェント・ハーネスより高速で、リソースの消費も少なくなっています。Rust実装は深さ3で1,981エージェントにより1,929.9億トークンを処理し、TypeScript実装は228エージェントにより357.0億トークンを処理しました。
Rustを選んだ理由：TypeScriptは素早い出荷に役立ちましたが、任意の型は実行時に消え、エラーは検査されない例外として伝播し、CPU負荷の高い処理は単一のイベントループ上でキーボード入力と競合します。また、すべてのプロセスがJavaScriptランタイムとガベージコレクタのコストを負担します。Rustは、素早く出荷しつつ、コードが大きくなるにつれてより高い基準を保つという目標に適しています。性能向上は、ガベージコレクタのないネイティブコード、セッションごとのワーカープロセス、起動時間の改善から得られています。並行性については、RustのSendとSyncトレイトにより、コンパイラがスレッド間のデータの受け渡しを検査できます。網羅的な列挙型、所有権、ライフタイムによるコンパイル時の保証によって、バグの種類全体が排除されます。さらに、Windowsのサポート、セッションのクラッシュ隔離、より一貫したデーモンプロトコルといった利点もあります。
目標は、最小限の人間の介入でエージェントが自律的に書き直しを行うことでした。人間の作業は、以前の自動Rust変換に関する研究を踏まえ、大規模な自律デプロイを可能にする検証の仕組みを整えることに集中しました。各仕様はそれぞれ異なる種類の同等性を対象としています。TUI同等性は、同じスクリプト化されたモデルに対してTypeScriptとRustのバイナリを並べて実行し、ターミナルの描画フレームを比較します。ハーネス同等性は、セッションの記録とモデルプロバイダへのリクエストを比較します。プロトコル同等性は、すべてのデーモンプロトコルのメッセージ型をTypeScript実装と照合します。機能同等性では、TypeScript製品をコンポーネント単位で監査しました。客観的なチェックにより、APIとプロトコル全体の一貫性が保証されています。
出典: Hacker News · 要約：HeadlinesBriefing