Laya (OS Jev) 在 Apple 芯片上展示了实时 AI 推理，使用 Mac M4 CoreML 实现了每秒 45 次决策。这一性能里程碑展示了离线大语言模型在消费级硬件上的潜力，消除了对云端依赖的需求。该基准测试突显了对 Apple 神经引擎的显著优化，使响应式 AI 应用能够直接在桌面设备上运行。这一发展标志着向以隐私为中心、本地处理的 AI 工作流转变。这一成果正值主要科技公司竞相优化模型以实现设备端执行之际。Laya 在 M4 芯片上的成功表明，对于寻求无需互联网连接的高性能 AI 的开发者来说，这是一条可行的路径。