HeadlinesBriefing HeadlinesBriefing.com

Maxwell: কোড এক্সিকিউশনের নতুন মডেল

Hacker News •
×

Maxwell হলো doubleAI-এর একটি নতুন ধরনের ফ্রন্টিয়ার মডেল, যাকে কোম্পানিটি কোড এক্সিকিউশন মডেল বলে অভিহিত করেছে। এটি কোড ও হার্ডওয়্যারের মাঝখানে কাজ করে, প্রোগ্রাম চলার সময়ই তাকে দ্রুততর করে তোলে, এবং এর জন্য কারও কোডের একটি লাইনও বদলাতে হয় না বা মানুষের হস্তক্ষেপও লাগে না।

প্রচলিত টুলের মতো নয়, Maxwell প্রোগ্রামকে ভেতর থেকে দেখে, ট্রেস, প্রোফাইলিং তথ্য এবং প্রোগ্রামের মধ্য দিয়ে প্রবাহিত ডেটা ব্যবহার করে। এটি পরিবেশের সঙ্গে গতিশীলভাবে খাপ খাইয়ে নেয়, যার মধ্যে রয়েছে হার্ডওয়্যার, অন্যান্য চলমান ওয়ার্কলোড এবং ইনপুটের গঠন। কোম্পানির যুক্তি হলো, বর্তমান পদ্ধতি, যেখানে Claude বা Codex-এর মতো টুল এবং মানুষ প্রকৌশলীরা প্রতিটি হার্ডওয়্যার ও ডেটা পরিস্থিতির জন্য বারবার কোড পুনরায় অপ্টিমাইজ করেন, তা অপ্রয়োজনীয়, সর্বোত্তমের চেয়ে কম কার্যকর এবং স্কেল করে না।

Maxwell প্রোগ্রাম চলাকালীন তাকে পর্যবেক্ষণ করে, সেই নির্দিষ্ট মেশিন ও ডেটার জন্য বাইনারি পুনর্লিখন করে, এবং প্রতিটি উন্নতি মূল কোডের সমতুল্য তা আনুষ্ঠানিকভাবে প্রমাণ করে। পর্যাপ্ত রানটাইম ডেটা জমা হলে, প্রোগ্রাম চলতে থাকা অবস্থাতেই এই অপ্টিমাইজেশনগুলো বদলে দেওয়া হয়। এটি CPU ও GPU উভয়ের উপরেই কাজ করে।

কোম্পানি জানিয়েছে, ডেটা প্রসেসিং পাইপলাইন ৩৮ গুণ দ্রুত এবং AI ইনফারেন্স কার্নেল ৪.২৫ গুণ দ্রুত হয়েছে। একটি বিশেষ উদাহরণে, Maxwell LTX-2.5-এর 4K ভিডিও জেনারেশনকে প্রায় দ্বিগুণ দ্রুত করেছে, এবং RTX 4090-এ একটি Whisper স্পিচ-টু-টেক্সট পরীক্ষায় রানটাইম ১০৬.২৩ সেকেন্ড থেকে কমিয়ে ৪৯.৮২ সেকেন্ড করেছে। আর্লি অ্যাক্সেস heymaxwell.ai-এ উন্মুক্ত।

উৎস: Hacker News · সারাংশ: HeadlinesBriefing