Qwen3.8-27B fonctionne sur le Neural Engine de l'iPhone 18 à des vitesses de 15 à 70 tokens par seconde, en utilisant 1,5 bit par poids. Le modèle traite les entrées à 1,5 bit par poids, ce qui permet une inférence efficace sur l'appareil. Ce développement marque une étape importante pour les capacités de l'IA mobile, en apportant des modèles de langage avancés au matériel des smartphones.
Les indicateurs de performance suggèrent que le Neural Engine d'Apple peut gérer des charges de travail d'IA à grande échelle avec une efficacité notable. Les observateurs du secteur soulignent les implications pour l'informatique en périphérie et les applications d'IA respectueuses de la vie privée. Cette réussite illustre la convergence croissante entre la conception des puces mobiles et les modèles sophistiqués d'apprentissage automatique.
Les cas d'usage potentiels comprennent la traduction en temps réel, la génération de contenu sur l'appareil et des fonctionnalités Siri améliorées. Les résultats des tests de performance sont favorables par rapport aux tentatives précédentes d'IA mobile, ce qui indique une maturation du domaine.
Source: Hacker News · Résumé par HeadlinesBriefing