Laya (OS Jev) mendemonstrasikan inferensi AI real-time pada silikon Apple, mencapai 45 keputusan per detik menggunakan Mac M4 CoreML. Pencapaian performa ini menampilkan potensi model bahasa besar offline pada hardware konsumen, menghilangkan kebutuhan ketergantungan cloud. Benchmark ini menyoroti optimisasi signifikan untuk neural engine Apple, memungkinkan aplikasi AI responsif langsung di perangkat desktop.

Pengembangan ini menandai pergeseran ke alur kerja AI yang berfokus pada privasi dan diproses secara lokal. Pencapaian ini datang saat perusahaan teknologi besar berlomba mengoptimalkan model untuk eksekusi on-device. Keberhasilan Laya pada silikon M4 menunjukkan jalur yang layak bagi pengembang yang mencari AI berkinerja tinggi tanpa persyaratan konektivitas internet.