L'AMD Ryzen AI Halo est une machine compacte de 150 mm carrés et pesant ~1 kg, conçue pour exécuter localement de grands modèles d'IA, sans dépendre du cloud. Au cœur de celui-ci se trouve l'APU Ryzen AI Max+ 395 avec 16 cœurs Zen 5, une GPU Radeon 8060 S RDNA 3.5 et un NPU XDNA 2, mais la caractéristique marquante est ses 128 Go de mémoire unifiée LPDDR5X-8000. Cette mémoire unifiée massive lui permet de gérer des charges de travail d'IA qui dépassent les capacités même des GPU grand public les plus rapides, comme la GeForce RTX 5090 avec seulement 32 Go de VRAM.
Lorsque les modèles dépassent la mémoire de la GPU, le Ryzen AI Halo continue de fonctionner tandis que les GPU discrets échouent, le rendant unique pour les LLM locaux, la génération d'images et de texte, la conversion de la parole en texte et les assistants de programmation. Prixé à 4 000 $, il sous-coupe le DGX Spark de 128 Go de NVIDIA à 7 000 $, offrant une entrée plus accessible à l'IA locale haute capacité. La plateforme est également disponible auprès d'autres fournisseurs de Mini-PC sous l'étiquette 'Ryzen AI 395'.
Un successeur, le Ryzen AI 495 (surnommé Gorgon Halo), a été annoncé avec un support allant jusqu'à 192 Go de mémoire LPDDR5X-8533 plus rapide et une augmentation de 100 MHz de l'horloge CPU/GPU, tout en conservant le même design de silicium. La revue souligne que ce n'est pas une évaluation typique de Mini-PC orientée jeu, mais une analyse approfondie de ce que 128 Go de mémoire unifiée permettent aux développeurs et passionnés d'IA travaillant sur le bureau, pas dans le centre de données.
Source: TechPowerUp Reviews · Résumé par HeadlinesBriefing