WayCloud 维云

英伟达DGX Station GB300,真正该看的是这三点!

行业趋势2026年10月10日维云信息科技

DGX GB300.jpg
640.gif

一台放在办公桌旁的 AI 工作站,官方推荐用 240V/20A 专用插座。这个细节,比 748GB 内存更能说明它的定位。


英伟达 DGX Station GB300,把 GB300 Grace Blackwell Ultra 超级芯片塞进了桌面机箱。


但“桌面”这个词,容易让人低估它对部署环境的要求。


1d81356b9bef349d2a33745814cccc37_640_wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1#imgIndex=1.webp



01

功耗:为什么推荐 240V 插座?


NVIDIA 官方规格表的写法很直白:总系统功率 1,600W,需要 20A 电路。


GB300 超级芯片空载功耗约 360W,满载峰值可达 1400W。整机接入市电后总功耗更高。美国标准 115V/15A 插座理论能带动,但长期满负载容易触发供电瓶颈。


这意味着它不是“插上电就能用”的设备。如果计划放在普通办公室,先确认电路容量。


1fcfa5ae710da9747c2303981de3ae98_640_wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1#imgIndex=2.webp


我们维云在帮客户部署 GPU 服务器时,供电余量是第一个要确认的环节。很多稳定性问题,根源不在芯片,在供电。



02

748GB 内存,为什么只有 252GB 跑满速?


DGX Station 的内存由两部分组成:约 252GB HBM3e,带宽 7-8TB/s;近 500GB LPDDR5X,带宽约 500GB/s。两者构成 748GB 融合统一内存池。


d8de3c1206ef57a34e7cc22867dca001_640_wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1#imgIndex=3.webp


Supermicro Super AI Station SSD


模型如果完整放进 HBM,推理速度拉满。一旦超过阈值,溢出部分进入低速内存,速度会明显下降。


真机实测中,能完整载入 HBM 的 Neatron 120B,预填充跑到 2200 token/s。GLM-5.2 量化后仍有 465GB,必须溢出,预填充只有 243 token/s。


选模型的时候,100B 级别、量化后能塞进 HBM 的,体验往往比硬上超大 MoE 好得多。



03

单用户聊天,为什么不是它的主场?


单用户聊天不是这台设备的设计目标。


Exxact 的公开测试里,在 40K 上下文、1M KV 池的条件下,DeepSeek V4-Flash 从 8 个智能体到 48 个智能体,吞吐量从 275.1 token/s 稳步上升到 345.7 token/s;Qwen3-235B 则在 24 个智能体时达到峰值 230.8 token/s,之后回落。


2bfae1a9b8ea234d9c642d72ce484b59_640_wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1#imgIndex=4.webp


这说明它更擅长批量跑多智能体任务,而不是一个人对着聊天框用。


智能体数量越多,越能发挥它的并发能力;但并发也不是无上限,不同模型有各自的最优区间。


04

买回来只是第一步,运维才是真门槛


Exxact 上架的 Valence VWS 起售价约 94,930 美元,约合人民币 63.8 万元;顶配约 109,593 美元,约合人民币 73.7 万元。63.8 万只是入场价,买回来只是第一步。


DGX Station 支持 3 条 PCIe 插槽,可通过 400G ConnectX-8 网卡多台组网,横向扩展算力。


机身内部有大量铜质散热结构,采用液冷方案。


2e83d9ec4a30b537a409b9fcfa381f94_640_wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1#imgIndex=5.webp



但这些配置也意味着更高的运维要求。液冷回路的长期状态、固件兼容性更新、多机互联调试,都是实际落地时要面对的环节。


维云在保 GPU 服务器超 100,000+ 万台,月均芯片级维修能力 1000 片以上,服务网络覆盖全球 50 多个地区。


这类桌面超算的部署和运维,和传统机架服务器有相似之处,也有新的维护点。


1eb78c24b445bddb3724c9f0a9aad9de_640_wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1#imgIndex=6.webp


技嘉 NVIDIA GB300 桌面 AI 工作站框图


买回来能用只是第一步,长期稳定运行才是真正的门槛。


英伟达还计划 2026 年第四季度推出 DGX Station for Windows,支持 WSL 和 NVIDIA AI 软件栈,企业不用单独维护 Linux 环境,可以在现有 Windows 基础设施里部署 AI 负载。

05

谁适合买,谁没必要?


这个价位更适合 AI 独立开发者、本地大模型研发团队、需要批量部署智能体的中小企业,以及对数据隐私要求较高的科研、政企团队。


DGX Station GB300 值不值得上,先问自己:你的模型能不能吃满 252GB 高速内存?


能,它在这个价位段里是比较少见的桌面级选择。不能,建议先评估溢出到低速内存后的速度能不能接受。选对场景,也选对配套条件。


如果你正在评估桌面级 AI 算力方案,或者对这类设备的部署和运维有疑问,欢迎和维云聊聊。


英伟达DGX Station GB300

阅读公众号原文

需要为您的 AI 集群保驾护航?

交付、运维、维修全生命周期服务,7×24×4 全球响应。