HeadlinesBriefing favicon HeadlinesBriefing.com

Fireworks、Ember-1をローンチ:効率的なKimi K3モデル

Hacker News •
×

Ember-1はFireworks Researchの新しい専門モデルで、40%少ないトークンでKimi K3の品質を提供します。Kimi K3に基づいて構築され、不要な推論を切り、本質的な思考を保持しながら学習しました。外部ベンチマーク、ライブカスタマーA/Bテスト、および内部コーディングおよびエージェントワークロードでテストされ、品質は一貫して維持されました。今日から利用可能、Ember-1は開発者のニーズによって形成された専門モデルのシリーズを開始します。Fireworks Researchは、ユーザーがKimi K3のコーディング能力を低コストで求めた後、Ember-1を開発しました。長い推論トレースにより、スケールでの自動コーディングが費用がかかりました。努力設定を下げると品質があまりにも犠牲になったため、チームはモデルがより効率的に推論するようにトレーニングすることに集中しました。50回以上のトレーニング実験と200回の評価が行われ、精度を失うことなく推論を短縮する新しいトレーニングアルゴリズムが開発されました。トレーニングはFireworks Serverless Trainingで行われ、迅速な実験、従量制料金、および研究からローンチまでのサイクルの高速化を可能にしました。Ember-1は、トークン節約がさまざまなワークロードに適用されることを保証するために、さまざまなタスクで評価され、その後Specialized Intelligence Index、公開ベンチマーク、およびライブプロダクショントラフィックで検証されました。このモデルは、Kimi K3のような推論モデルの非効率性に対処しており、これらのモデルは回答ではなく内部推論に90%以上のトークンを費やします。これは、以前の推論が再度読み取られ、再請求されるマルチターンエージェントワークロードでコストがかかります。Ember-1は、タスクと環境からのフィードバックを使用して効率的な推論を学習しながら、有用な自己反映を保持し、過剰な推論を排除します。トレーニングは、数学、コーディング、指示の遵守、会話、検索、ツールの使用、ソフトウェアエンジニアリングを含む拡張された相互作用を含みました。結果により、7つのベンチマークと2人の顧客のプロダクショントラフィック全体で品質が維持されていることが確認されました。