NVIDIA Blog· Vishal Ganeriwala·· 15 天前
NVIDIA 详解 DSX 如何提升 AI 工厂每兆瓦产出
From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production
AI 导读
NVIDIA 在 AI Infra Summit 上介绍 DSX 平台,用于在固定电力预算下提升 AI 工厂的 token 吞吐。Lambda 在五机架 19 节点 HGX B200 集群上验证 DSX MaxLPS,以 19 节点运行在 16 节点满功耗的同一预算内,集群 token 吞吐提升 24%,从约每秒 400 万 token 增至 500 万,每瓦性能提升 23%。
入选记录
门槛 60官方一手第一次 62第二次 62
入选两次之和 124 ≥ 门槛的两倍 120
- 信源等级
- 官方一手,这一级的门槛是 60 分
- 预筛
- 通过:NVIDIA AI工厂GPU算力与电网调度技术
- 推荐理由
- 原文给出 DSX 各组件在真实部署中的量化结果,读者可据此判断固定电力预算下提升 token 吞吐的可行路径。
评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源:NVIDIA Blog · blogs.nvidia.com