Qwen3.8-27B 可在 iPhone 18 神经网络引擎上运行,速度为每秒 15 至 70 个词元,每个权重使用 1.5 位。该模型以每个权重 1.5 位的精度处理输入,从而实现高效的端侧推理。这一进展标志着移动 AI 能力的重要一步,将先进的语言模型带到了智能手机硬件上。性能指标表明,苹果的神经网络引擎能够以显著的效率处理大规模 AI 工作负载。行业观察人士指出,这对边缘计算和保护隐私的 AI 应用具有重要意义。这一成就体现了移动芯片设计与复杂机器学习模型的日益融合。潜在用例包括实时翻译、端侧内容生成以及增强版 Siri 功能。基准测试结果与此前的移动 AI 尝试相比表现良好,表明该领域正在走向成熟。
来源: Hacker News · 由HeadlinesBriefing整理摘要