LFM2.5-24B-A2B: অন-ডিভাইস AI এজেন্ট

আজ আমরা LFM2.5-24B-A2B প্রকাশ করছি, একটি ২৪ বিলিয়ন প্যারামিটারের রিজনিং মডেল, যার মাত্র ২ বিলিয়ন প্যারামিটার সক্রিয়। এটি ডিভাইসে দ্রুত ও ব্যক্তিগত এজেন্ট চালানোর জন্য তৈরি। LFM2.5 পরিবারের এটি সবচেয়ে বড় ও শেষ মডেল, যা এখন LFM2.5-230M থেকে LFM2.5-24B-A2B পর্যন্ত দুটি মাত্রার বিস্তৃত।

LFM2.5-24B-A2B, Qwen3.6-35B-A3B-এর সঙ্গে প্রতিযোগিতামূলক, যে মডেলের মোট ও সক্রিয় প্যারামিটার প্রায় ৫০% বেশি। আটটির মধ্যে পাঁচটি এজেন্টিক ও টুল-ব্যবহার বেঞ্চমার্কে এটি এমন ফল দেখিয়েছে। Live Claw-তে এর স্কোর ৪৮.০৯, যেখানে প্রতিপক্ষের ৩৮.১৯; Automation Bench-এ এর স্কোর ২৭.৬৯, যেখানে প্রতিপক্ষের ৮.৭২। প্রতি টোকেনে শুধু ২B প্যারামিটার সক্রিয় থাকায় এটি ডিভাইসে তুলনীয় MoE মডেলের চেয়ে ১.৭ গুণ পর্যন্ত দ্রুত চলে, Apple M5 Max-এ ১৮৪ টোকেন/সেকেন্ড এবং একটি NVIDIA B300 GPU-তে সর্বোচ্চ ২১K আউটপুট টোকেন/সেকেন্ড পর্যন্ত পৌঁছায়।

বেস মডেল (LFM2.5-24B-A2B-Base) এবং পোস্ট-ট্রেইনড মডেল (LFM2.5-24B-A2B) ওপেন-ওয়েট এবং আজ থেকে Hugging Face ও কোম্পানির Playground-এ পাওয়া যাচ্ছে। মডেলটি স্থানীয়ভাবে কীভাবে চালাতে ও ফাইন-টিউন করতে হয়, সে সম্পর্কিত ডকুমেন্টেশনও উপলব্ধ।

এর পূর্বসূরি LFM2-24B-A2B-এর তুলনায় নতুন মডেলে বিস্তৃত শব্দভান্ডার ও কনটেক্সট উইন্ডো, বৃহৎ আকারের প্রি-ট্রেনিং এবং বড় পরিসরের রিইনফোর্সমেন্ট লার্নিং রয়েছে। এটি শুধু রিজনিং মডেল, যা চূড়ান্ত উত্তরের আগে একটি সুস্পষ্ট চিন্তার ধারা তৈরি করে। এর উচ্চ ডিকোড গতির সুবিধা নিতে এবং উত্তরের মান উন্নত করতে এই কৌশল নেওয়া হয়েছে।

উৎস: Hacker News · সারাংশ: HeadlinesBriefing