Qwen3.8-27BはiPhone 18のNeural Engineで、毎秒15~70トークンの速度、重み1つあたり1.5ビットで動作します。このモデルは重み1つあたり1.5ビットで入力を処理し、効率的なデバイス上での推論を可能にします。この進展はモバイルAIの能力における重要な一歩であり、高度な言語モデルをスマートフォンのハードウェアにもたらします。性能指標から、AppleのNeural Engineが大規模なAIワークロードを高い効率で処理できることがうかがえます。業界の専門家は、エッジコンピューティングやプライバシー保護型AIアプリケーションへの影響に注目しています。この成果は、モバイルチップ設計と高度な機械学習モデルの融合が進んでいることを示しています。想定される用途には、リアルタイム翻訳、デバイス上でのコンテンツ生成、強化されたSiri機能などがあります。ベンチマーク結果は以前のモバイルAIの試みと比べて良好で、この分野の成熟を示しています。
出典: Hacker News · 要約:HeadlinesBriefing