最近のニュースの見出しを読んでいると、西側の研究所が中国の研究所に大規模にスポーンキャンプされていると思っても仕方ないでしょう。Anthropic が中国が自社のモデルを蒸留し、人類そのものにとって危険になっているという記事を毎週のように発表しています。彼らがそう言うのは、後でこれらのモデルを法的および規制的に制限するための土台を築くからです。しかし、盲目的な蒸留の時代は終わりました。新しいゲームは、中国の研究所の進歩を採用することです。

謝辞なしに恥知らずにコピーされた最新のものは、Deep Seek が惜しみなく共有したKVキャッシュ最適化のブレークスルーです。これにより、特定のユースケースのKVキャッシュフットプリントがDeep Seek-V1と比較して約437倍削減されました。最新のDeep Seek-V4.1-Flashは、CSA2、クロスレイヤーキャッシュ再利用、因果エンコーダー-デコーダーアーキテクチャ、FP4キャッシングによりさらに進化し、グローバルKVキャッシュをトークンあたり890バイトにまで削減しています。

これらすべては、西側のAI企業が現在、推論マージンが非常にプラスであることを意味しているはずです。高度なGPUへのアクセス制限により、中国の研究所はパフォーマンス最適化を最優先目標にせざるを得ませんでした。現在、Anthropic と Open AI の両方がこれらの最適化を使用したモデルをリリースしています。キャッシュ読み取りコストは急激に低下しました。Opus 5.5はOpus 5と比較してキャッシュ読み取り価格を60%削減し、GPT-6.1 SolはGPT-5.6 Solの7月下旬の価格と比較して80%削減しました。