HeadlinesBriefing HeadlinesBriefing.com

Mercury 3: Inception-এর দ্রুত ডিফিউশন LLM

Hacker News •
×

Inception Mercury 3 উন্মোচন করেছে, যাকে কোম্পানিটি এ পর্যন্ত প্রকাশিত সবচেয়ে সক্ষম ডিফিউশন-ভিত্তিক LLM বলে অভিহিত করছে। একাধিক বেঞ্চমার্কে Mercury 3, GPT-6 Luna ও Claude Haiku 5.5-কে ছাড়িয়ে যায়, আর NVIDIA GPU-তে প্রতি সেকেন্ডে 1,068 টোকেন গতিতে চলে, যা 4–8 গুণ দ্রুত। মডেলটি Mercury 1-এর চেয়ে 40 গুণেরও বেশি বড় এবং অনেক বেশি বুদ্ধিমান, তবু একই রকম দ্রুত। এর কনটেক্সট উইন্ডো Mercury 2.5-এর 260K টোকেন থেকে বেড়ে 1M টোকেন হয়েছে।

দাম প্রতি 10 লক্ষ ইনপুট টোকেনে $0.20 এবং প্রতি 10 লক্ষ আউটপুট টোকেনে $0.70। লঞ্চের সময় Mercury 3-এ 50% ছাড় রয়েছে, অর্থাৎ প্রতি 1M ইনপুটে $0.10 এবং প্রতি 1M আউটপুটে $0.35। ক্যাশড টোকেনের দাম ইনপুট দামের চেয়ে 90% কম। কোম্পানি বলছে, অটোরিগ্রেসিভ মডেলের অগ্রগতিকে যে স্কেলিং নিয়মগুলো চালিয়েছে, সেগুলো ডিফিউশনের ক্ষেত্রেও প্রযোজ্য, এবং স্ট্যান্ডার্ড বেঞ্চমার্কে Mercury 1 (mini) থেকে Mercury 3 পর্যন্ত বুদ্ধিমত্তা 3 গুণ বেড়েছে।

প্রারম্ভিক অ্যাক্সেস পার্টনাররা ইতোমধ্যে লেটেন্সি-সংবেদনশীল কাজে Mercury 3 ব্যবহার করছেন। এক পরীক্ষায়, Mercury 3-ভিত্তিক একটি ব্রাউজার-ব্যবহারকারী এজেন্ট 50টি লাইভ Mind2Web নেভিগেশন টাস্কের 50% সম্পন্ন করেছে, যা GPT-6.1-Sol-এর চেয়ে উল্লেখযোগ্যভাবে বেশি, এবং প্রতি টোকেন খরচের একটি ভগ্নাংশে। অন্য পার্টনাররা ইন্টারঅ্যাক্টিভ শিক্ষায় প্রায় রিয়েল-টাইম কর্মক্ষমতার কথা জানিয়েছেন, যেখানে ইঙ্গিত ও ফিডব্যাক এখন প্রায় এক সেকেন্ডে ফিরে আসে, এবং রিয়েল-টাইম সার্চে, যেখানে Octen মধ্যমা জেনারেশন সময় 0.9 সেকেন্ড ও মধ্যমা এন্ড-টু-এন্ড প্রতিক্রিয়া 2.2 সেকেন্ড পরিমাপ করেছে।

সাপোর্ট দলগুলোও এই মডেল গ্রহণ করছে। Lorikeet নিয়ন্ত্রিত ব্যবসার জন্য কথোপকথনমূলক গ্রাহক উত্তর নির্ভুল রাখতে Mercury ব্যবহার করে, যেখানে ভুল উত্তর ব্যয়বহুল।

উৎস: Hacker News · সারাংশ: HeadlinesBriefing