本地AI正变得越来越有用,因为功能强大的开放模型不断缩小,以适应更多设备。本月,NVIDIA DGX Spark将提供64 GB统一内存版本,来自顶级制造商合作伙伴——Acer、ASUS、Dell、Gigabyte、HP和MSI——为开发者、研究人员和AI爱好者提供全新配置,预装DGX OS和NVIDIA AI软件栈,开箱即用。新款SKU可在设备上本地运行强大的AI代理,保护隐私,无需依赖云端。当工作负载增长时,两台设备可通过NVIDIA Sync Cluster Assistant无缝集群,无需额外设置。
DGX Spark将NVIDIA Grace Blackwell计算、统一内存、NVIDIA Connect X-7网络和NVIDIA CUDA加速AI软件栈集成于一体。新款64 GB配置仅通过制造商合作伙伴独家销售,在保持平台亲民价格的同时,保留了GB10 Grace Blackwell超级芯片、DGX OS和完整的NVIDIA AI软件栈——与128 GB型号相同。它支持高达1000亿参数的模型及基于这些模型的代理应用,完全在设备上运行。
两台64 GB设备集群后,在NVIDIA的Qwen 3.8 27B测试中,性能相比单台系统提升高达1.7倍。DGX Spark从第一天起就为代理开发做好准备——NVIDIA Agent Toolkit、CUDA-X AI库、Nemotron开放模型,以及Ollama、vLLM和PyTorch with CUDA等流行运行时均开箱即用。Blender是首批支持该平台的主要创作者应用提供商之一。
每台DGX Spark均内置NVIDIA Connect X-7网卡。两台设备可通过QSFP线缆直接连接,将内存池化至128 GB,并将模型支持扩展至高达2000亿参数。NVIDIA Sync应用可无缝配置此多节点集群。本月底,NVIDIA Sync Model Launcher将让运行本地AI变得像点击几个按钮一样简单。
来源: TechPowerUp News · 由HeadlinesBriefing整理摘要