HeadlinesBriefing favicon HeadlinesBriefing.com

পশ্চিম চীনা AI অগ্রগতি গ্রহণ করে

Hacker News •
×

আপনি যদি আজকাল খবরের শিরোনাম পড়েন, তাহলে আপনাকে ক্ষমা করা হবে যদি আপনি মনে করেন যে পশ্চিমা ল্যাবগুলি চীনা ল্যাবগুলির দ্বারা ব্যাপকভাবে স্পন-ক্যাম্পড হচ্ছে। এক সপ্তাহও যায় না যখন Anthropic আরেকটি নিবন্ধ প্রকাশ করে না যে কীভাবে চীনারা তাদের মডেলগুলি ডিস্টিল করছে, মানবতার জন্যই বিপদ হয়ে উঠছে। তাদের জন্য এটি বলা লাভজনক কারণ এটি পরে আইনগত ও নিয়ন্ত্রকভাবে এই মডেলগুলিকে সীমাবদ্ধ করার ভিত্তি স্থাপন করে। কিন্তু নির্বোধ ডিস্টিলিংয়ের দিন শেষ। নতুন খেলা হল চীনা ল্যাবগুলির অগ্রগতি গ্রহণ করা।

সর্বশেষ যে লজ্জাহীনভাবে স্বীকৃতি ছাড়াই কপি করা হয়েছে তা হল KV ক্যাশ অপ্টিমাইজেশনে অগ্রগতি যা Deep Seek উদারভাবে ভাগ করেছে। এটি Deep Seek-V1-এর তুলনায় নির্দিষ্ট ব্যবহারের ক্ষেত্রে KV ক্যাশ ফুটপ্রিন্ট প্রায় 437x গুণ কমিয়েছে। সর্বশেষ Deep Seek-V4.1-Flash CSA2, ক্রস-লেয়ার ক্যাশ পুনঃব্যবহার, একটি কার্যকারণ এনকোডার-ডিকোডার আর্কিটেকচার এবং FP4 ক্যাশিং সহ এটিকে আরও এগিয়ে নিয়ে যায়, গ্লোবাল KV ক্যাশ প্রতি টোকেন 890 বাইট এ নিয়ে আসে।

এই সবের অর্থ হল পশ্চিমা AI কোম্পানিগুলি এখন অত্যন্ত ইনফারেন্স-মার্জিন পজিটিভ। উন্নত GPU-তে অ্যাক্সেসের সীমাবদ্ধতা চীনা ল্যাবগুলিকে পারফরম্যান্স অপ্টিমাইজেশনকে এক নম্বর লক্ষ্য করতে বাধ্য করেছে। এখন Anthropic এবং Open AI উভয়ই এই অপ্টিমাইজেশনগুলি ব্যবহার করে মডেল প্রকাশ করেছে। ক্যাশ রিড খরচ তীব্রভাবে কমেছে: Opus 5.5 Opus 5-এর তুলনায় ক্যাশ-রিড মূল্য 60% কমিয়েছে, যখন GPT-6.1 Sol GPT-5.6 Sol-এর জুলাইয়ের শেষের মূল্যের তুলনায় এটি 80% কমিয়েছে।