Qwen3.8-27B berjalan di Neural Engine iPhone 18 dengan kecepatan 15 hingga 70 token per detik, menggunakan 1,5 bit per bobot. Model ini memproses masukan pada 1,5 bit per bobot, sehingga memungkinkan inferensi yang efisien di perangkat. Perkembangan ini menandai langkah signifikan dalam kemampuan AI seluler, dengan menghadirkan model bahasa canggih ke perangkat keras smartphone.
Metrik kinerja menunjukkan bahwa Neural Engine Apple mampu menangani beban kerja AI berskala besar dengan efisiensi yang mencolok. Pengamat industri mencatat implikasinya bagi edge computing dan aplikasi AI yang menjaga privasi. Pencapaian ini menunjukkan semakin menyatunya desain chip seluler dengan model machine learning yang canggih.
Kasus penggunaan potensial mencakup terjemahan real-time, pembuatan konten di perangkat, dan fungsi Siri yang ditingkatkan. Hasil benchmark menunjukkan perbandingan yang menguntungkan dibandingkan upaya AI seluler sebelumnya, yang mengindikasikan kematangan bidang ini.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing