英伟达DGX Spark支持8台集群 内存可达1TB

AI 驱动中国 宋谣 4,664次阅读 4评
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

英伟达在柏林GTC 2026大会宣布DGX Spark集群上限由4台提升至8台,128GB版本统一内存最高可达1TB,并同步更新本地AI平台,推出Sync Model Launcher、支持更多本地模型及优化推理性能。

驱动中国10月22日消息,据IT之家消息,英伟达在柏林GTC 2026大会上宣布,DGX Spark的集群规模上限由原来的4台设备提升至8台设备,目前允许用户手动配置最多8台设备组成集群;若使用128GB版本组建,统一内存容量最高可达1TB。

围绕本地AI平台,英伟达同步发布更新,并与llama.cpp、vLLM开源社区合作优化AI推理性能。特定工作负载下,RTX PRO 6000 Blackwell的推理性能提升最高可达40%,DGX Spark与DGX Station的性能提升分别最高可达30%和20%。

发售安排上,英伟达表示4,999美元、按现汇率约合33,450元人民币的DGX Spark 64GB版本,将于10月23日起通过合作伙伴陆续发售。面向集群部署,英伟达Sync Model Launcher计划于本月晚些时候上线,用户可借助该工具下载与硬件配置匹配的模型和容器,并将模型连接至OpenCode。该工具还会自动加载DGX Spark Skills,为设备故障排查、维护及工作流程提供指导。

软件层面,10月版DGX Spark更新新增Wi-Fi助手,允许设备在appliance mode下切换无线网络。DGX Spark Skills也将通过OpenCode集成至英伟达Sync,为日常维护和故障排查提供支持。

模型支持方面,英伟达宣布更多AI模型可在本地运行,涵盖Nemotron、GLM、DeepSeek、Qwen、MiniMax以及FLUX.3 Klein等,应用范围包括智能体、编程、图像生成和编辑等任务。

英伟达还推出面向本地AI硬件优化的Recursive Flint编程模型。该模型采用混合专家(MoE)架构,总参数量为400亿,激活参数量为25亿。英伟达称,在配备64GB内存的RTX Spark上,该模型推理速度超过每秒220个词元。

针对本地运行大型模型时的内存压力,英伟达发布了一组优化内存使用的模型检查点,通过量化降低内存占用。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/526926.html
本文价值 ★★★★★ 4.2 21 人已评
登录后为本文打分
网友评论4 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友

分享卡已生成

长按下方图片保存,转发到朋友圈或微信群

分享卡