El AMD Ryzen AI Halo es una máquina compacta de 150 mm cuadrados y ~1 kg construida para ejecutar grandes modelos de IA localmente, sin depender de la nube. En su núcleo se encuentra el APU Ryzen AI Max+ 395 con 16 núcleos Zen 5, una GPU Radeon 8060 S RDNA 3.5 y un NPU XDNA 2, pero la característica destacada es sus 128 GB de memoria unificada LPDDR5X-8000. Esta enorme memoria unificada le permite manejar cargas de trabajo de IA que exceden las capacidades incluso de las GPUs consumer más rápidas, como la GeForce RTX 5090 con solo 32 GB de VRAM.
Cuando los modelos superan la memoria de la GPU, el Ryzen AI Halo continúa funcionando mientras las GPUs discretas fallan, lo que lo hace únicamente capaz para LLMs locales, generación de imágenes y texto, conversión de voz a texto y asistentes de codificación. Con un precio de $4,000, supera al DGX Spark de 128 GB de NVIDIA a $7,000, ofreciendo una entrada más accesible a la IA local de alta capacidad. La plataforma también está disponible de otros proveedores de Mini-PC bajo la etiqueta 'Ryzen AI 395'.
Se ha anunciado un sucesor, el Ryzen AI 495 (conocido como Gorgon Halo), con soporte para hasta 192 GB de memoria LPDDR5X-8533 más rápida y un aumento de 100 MHz en el reloj de CPU/GPU, manteniendo el mismo diseño de silicio. La reseña enfatiza que esto no es una típica evaluación de Mini-PC orientada al juego, sino un análisis profundo de lo que 128 GB de memoria unificada permite para desarrolladores y entusiastas de IA trabajando en el escritorio, no en el centro de datos.
Fuente: TechPowerUp Reviews · Resumido por HeadlinesBriefing