HeadlinesBriefing favicon HeadlinesBriefing.com

La puce Jalapeño d'OpenAI offre des gains de 1.5-4.1x en inférence IA

OpenAI Blog •
×

OpenAI a publié les premiers résultats de performance de Jalapeño, sa première puce d'inférence personnalisée, démontrant une vitesse et une efficacité líderes de l'industrie. La puce offre 1,5 à 1,9 fois plus de travail d'IA par watt en débit maximal et 1,7 à 3,6 fois moins de latence de bout en bout par rapport aux systèmes commerciaux leaders disponibles. Pour les charges de travail hautement interactives, Jalapeño a atteint 2,1 à 4,1 fois une performance supérieure.

Les tests effectués sur les modèles GPT‑OSS 120B, Deep Seek R1 et Kimi K2.5 1T ont montré des gains cohérents pour les architectures développées aussi bien à l'intérieur qu'à l'extérieur d'OpenAI. Sur le plus grand modèle, Kimi K2.5 1T, Jalapeño a fourni environ 1,5 fois plus de performance maximale par watt et 3,4 fois moins de latence. La puce est notée à 700 watts, mais elle a fonctionné de façon soutenue à ou en dessous de 550 watts pendant les tests.

OpenAI souligne un avantage full-stack, en concevant modèles, logiciels de service, puces, mémoire, mise en réseau et systèmes ensemble en utilisant des données de charge de travail réelles. Jalapeño représente le début d'une plateforme multigénérationnelle, avec des projets visant à augmenter la production pour offrir des produits plus rapides, plus capables et plus efficaces. L'entreprise a mesuré les performances en utilisant le benchmark public Inference X de Semi Analysis, en évaluant une expérience utilisateur correspondante dans les plages de fonctionnement.

Entités clés : Entreprises : OpenAI, Semi Analysis

FAQ : Comment Jalapeño se compare-t-il au matériel existant d'inférence d'IA ?

Jalapeño offre 1,5 à 1,9 fois plus de travail d'IA par watt et 1,7 à 3,6 fois moins de latence que les systèmes commerciaux leaders, avec des gains de 2,1 à 4,1 fois pour les charges de travail hautement interactives, tout en fonctionnant à une puissance soutenue de 550 W contre une puissance nominale de 700 W.