HeadlinesBriefing favicon HeadlinesBriefing.com

Barat Mengadopsi Kemajuan AI China

Hacker News •
×

Jika Anda membaca berita utama akhir-akhir ini, Anda dapat dimaafkan jika berpikir bahwa laboratorium Barat sedang dikalahkan secara massal oleh laboratorium China. Tidak seminggu berlalu tanpa Anthropic merilis artikel lain tentang bagaimana China menyuling model mereka, menjadi bahaya bagi kemanusiaan itu sendiri. Ini menguntungkan bagi mereka untuk mengatakan itu karena itu menjadi landasan bagi model-model ini untuk dibatasi secara hukum dan regulasi di kemudian hari. Tapi hari-hari penyulingan tanpa pikiran sudah berakhir. Permainan baru di kota adalah mengadopsi kemajuan laboratorium China.

Yang terbaru disalin tanpa malu-malu tanpa pengakuan adalah terobosan dalam optimasi KV cache yang Deep Seek bagikan dengan murah hati. Ini mengurangi jejak KV cache untuk kasus penggunaan tertentu dengan faktor sekitar 437x dibandingkan dengan Deep Seek-V1. Deep Seek-V4.1-Flash terbaru mendorongnya lebih jauh dengan CSA2, penggunaan kembali cache lintas lapisan, arsitektur encoder-decoder kausal, dan caching FP4, membawa KV cache global turun menjadi 890 byte per token.

Semua ini pasti berarti perusahaan AI Barat sekarang sangat positif margin inferensi. Kendala akses ke GPU canggih memaksa laboratorium China untuk menjadikan optimasi kinerja sebagai tujuan nomor satu. Sekarang Anthropic dan Open AI sama-sama merilis model yang menggunakan optimasi ini. Biaya baca cache turun tajam: Opus 5.5 memotong harga baca cache sebesar 60% dibandingkan Opus 5, sementara GPT-6.1 Sol memotongnya sebesar 80% dibandingkan harga akhir Juli GPT-5.6 Sol.