DS4 · ローカルフロンティア推論 ds4を使用して、フロンティアのオープンウェイトをローカルで実行します。Dwarf Star 4は、高メモリMac、CUDA、ROCmマシン向けの狭いC推論エンジンです。Deep Seek V4およびV4.1 Flash、GLM 5.x、Qwen3.8 Flash Nextをサポートし、テキストおよびビジョンモデル、ローカルAPI、CLI、ネイティブエージェントを1つのスタックに統合しています。
サポート: DEEPSEEK V4 / V4.1 + GLM 5.x + QWEN3.8 · MITライセンス· C / METAL / CUDA / ROCM· QWEN 64GB原則。2840億パラメータのDeep Seek V4 Flashは、大規模な混合専門家モデルです。ds4は、リモートサービスの逆の制約から始まります。非対称量子化は、ルーティングされた専門家を対象とし、重要なパスを保持しながら、高メモリマシンでモデルを実用的にします。
ローカルエンジンは、CLI、HTTP API、ネイティブエージェントを公開し、すべて同じモデル状態とキャッシュを共有します。ds4は汎用GGUFランナーではありません。モデルファミリーの小さな日和見的なセットに従い、サポートされている各レイアウトをエンドツーエンドで検証します。主な機能には、非対称2ビット量子化、ディスク市民としてのKVキャッシュ、3つのインターフェースを持つ1つのエンジン（チャット用の./ds4、ローカルAPI用の./ds4-server、永続的なコーディングセッション用の./ds4-agent）が含まれます。
ds4を3つのステップで実行します：プロジェクトのGGUFをダウンロードし、バックエンド用にビルドし、CLIまたはサーバーを起動します。ハードウェア適合には、M5 Max、128 GBなどのプラットフォームが含まれ、34.4 T/Sの生成と557 T/Sのプリフィルを達成します。ds4-serverはOpenAIおよびAnthropicスタイルのAPIを話し、ローカルコーディングエージェントが自分のマシンに接続できるようにします。
主要エンティティ：企業：Deep Seek、GLM、Qwen、Dwarf Star
出典: Hacker News · 要約：HeadlinesBriefing