iPhone 18 এর Neural Engine-এ Qwen3.8-27B প্রতি সেকেন্ডে 15 থেকে 70 টোকেন গতিতে চলে, এবং প্রতি ওয়েটে 1.5 বিট ব্যবহার করে। মডেলটি প্রতি ওয়েটে 1.5 বিটে ইনপুট প্রক্রিয়া করে, যা ডিভাইসেই কার্যকর ইনফারেন্স সম্ভব করে। এই অগ্রগতি মোবাইল AI সক্ষমতায় একটি গুরুত্বপূর্ণ পদক্ষেপ, যা উন্নত ভাষা মডেলকে স্মার্টফোনের হার্ডওয়্যারে নিয়ে আসে। কর্মক্ষমতার পরিমাপ থেকে বোঝা যায়, Apple এর Neural Engine উল্লেখযোগ্য দক্ষতার সঙ্গে বড় আকারের AI ওয়ার্কলোড সামলাতে পারে। শিল্প পর্যবেক্ষকরা এজ কম্পিউটিং এবং গোপনীয়তা-সুরক্ষিত AI অ্যাপ্লিকেশনের উপর এর প্রভাব নিয়ে মন্তব্য করেছেন। এই অর্জন মোবাইল চিপ ডিজাইন এবং উন্নত মেশিন লার্নিং মডেলের ক্রমবর্ধমান মিলনকে তুলে ধরে। সম্ভাব্য ব্যবহারের ক্ষেত্রগুলোর মধ্যে রয়েছে রিয়েল-টাইম অনুবাদ, ডিভাইসে কনটেন্ট তৈরি এবং উন্নত Siri কার্যকারিতা। বেঞ্চমার্ক ফলাফল আগের মোবাইল AI প্রচেষ্টার তুলনায় অনুকূল, যা এই ক্ষেত্রের পরিপক্বতা নির্দেশ করে।
উৎস: Hacker News · সারাংশ: HeadlinesBriefing