Laya（OS Jev）は、Appleシリコン上でリアルタイムAI推論を実証し、Mac M4 CoreMLを使用して毎秒45決定を達成しました。このパフォーマンスのマイルストーンは、コンシューマーハードウェア上でのオフライン大規模言語モデルの可能性を示し、クラウド依存の必要性を排除します。このベンチマークは、Appleのニューラルエンジンに対する大幅な最適化を強調し、デスクトップデバイス上で直接レスポンシブなAIアプリケーションを可能にします。この開発は、プライバシー重視、ローカル処理のAIワークフローへのシフトを示しています。この成果は、主要テック企業がオンデバイス実行向けにモデルを最適化する競争の中でもたらされました。M4シリコン上でのLayaの成功は、インターネット接続要件なしで高性能AIを求める開発者にとって、実行可能な道筋を示唆しています。