128GB 笔记本到 748GB 桌面超算:GTC 三档本地 AI 硬件,私有化选型账

行业新闻 · 丁香 · 发布 2026-10-26 · 阅读 38

三档梯子:从笔记本到桌面超算

GTC 柏林(10 月 21 日)上,NVIDIA 把本地 AI 硬件拉成了一条完整的三档产品线,官方口径与产品页数据(厂商自报):最轻的是 RTX Spark,10 月 16 日开售的 Windows 个人智能体主机,最高 128GB 统一内存、1 petaflop AI 算力;中间一档是 Linux 工作站的 DGX Spark,64GB 机型 10 月 23 日起发货,内置 ConnectX-7 网络可手动组最多 8 台集群,合计 1TB 统一内存,官方称可运行 GLM 5.3 级别的旗舰开放模型;最重一档是 DGX Station,基于 GB300,748GB 一致性内存、最高 20 petaFLOPS,支持 1 万亿参数以内的本地模型,Windows 版本 12 月上市。

主题演讲上黄仁勋现场演示:RTX Spark 配合 Isaac Lab 与 Nemotron 3.5 Bolt 74B,训练 Hugging Face 的 Microduck 机器狗。"模型跑在本地设备、数据不出机器"是这条产品线的统一叙事。

Day-0 开放模型货架,直接挂在本地硬件上

官方同时宣布对 Nemotron、GLM、DeepSeek、Qwen、MiniMax、FLUX.3 等最新开放模型做 day-0 支持,并新增 llama.cpp 与 vLLM 推理引擎加速、一批面向本地硬件优化过的 checkpoint。DGX Spark 64GB 可直接跑 Nemotron 3.5 Bolt 74B(24GB 档)、Qwen3.8 27B、Gemma 4 26B-A4B(厂商自报);还发布了本地编码模型 Recursive Flint:40B 参数 MoE、每 token 仅激活 2.5B,按官方口径在 SWE-bench Pro v2、Terminal-Bench 2.1 等智能体编码基准上表现可用,专为 RTX Spark 优化(厂商自报)。

一台机器,变成本地推理服务

本槽最值得私有化部署团队留意的是 NVCF(NVIDIA Cloud Functions)进入 DGX Station 早期访问:把本地模型端点注册进共享目录,团队通过一个 OpenAI 兼容入口调用,升级后端模型不用改应用代码;NVIDIA 还在 GTC 现场演示了 DGX Station 为 30 多名开发者跑"本地 token 工厂"。配套还有 Absolute、Splunk、Fleet、Intune 等 7 个设备管理集成,走企业 IT 采购的既有审批链路,把部署风险压在"时间到首 token"之前消化掉。

DGX Spark 侧,本月上线的 Sync Model Launcher 可以一键下载适配本机的模型与容器并接到 OpenCode;10 月软件更新还加了 Wi-Fi Assistant(设备模式下切网络)和 DGX Spark Skills 排障指引。面向机器人团队则放出了三套开源参考工作流:GR00T 1.7 的强化学习精调、灵巧操作技能训练、Cosmos 世界模型后训练做合成数据,把"本地后训练 + 仿真 + 评估"整条闭环搬进同一台桌面机。

选型账:三档分别对应哪种团队

第一账,模型上限定档位。单人或小组:DGX Spark 64GB 就够,27B 级 Qwen3.8 或 24GB 档 Nemotron 直接跑;要共享跑 GLM 5.3 这类 500B+ 旗舰,才上 8 台 1TB 集群(官方数字,厂商自报);1T 参数前沿开放模型本地化,对应 DGX Station 的 748GB。

第二账,操作系统定场景。Windows 桌面个人智能体选 RTX Spark;12 月 DGX Station Windows 版是制造业与研发企业的关键点——官方预集成 Siemens、MathWorks、Dassault、Rockwell、Unity 等 9 个工程软件生态,"本地大模型 + 专业软件"在同一台机器上跑(厂商自报)。

第三账,算 TCO 别只算单价。本地硬件的价值不是比 API 便宜,而是数据不出内网、不按 token 计费。NVCF 的端点共享把"一人一卡"变成"一台服务一个团队",等价于在机房里架一层私有模型货架,边际成本随人数摊薄;空闲时它是一台安静的盒子,有活时立刻顶上,比按量计费的托管侧更适合波峰波谷明显的内网业务。

一句话观察:NVIDIA 这次把"推理服务化"这层软件也本地化了——私有化部署正在从"买卡、装框架、自己运维"滑向"买一台能走企业采购流程的服务箱",硬件选型从架构师问题变成了 IT 采购问题。

来源:NVIDIA GTC 柏林主题演讲与官方博客、DGX Station/RTX Spark 产品页、NVIDIA 官方新闻稿;文中内存、算力、模型支持等数字为厂商自报,实测以自有负载为准。