NVIDIA Blog· Vishal Ganeriwala·· 16 日前
NVIDIA、DSX による AI 工場の1 MW 当たり生産性向上を解説
From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production
AI による要約
NVIDIA は AI Infra Summit で、一定の電力予算内で AI 工場のトークンスループットを高める DSX を紹介した。Lambda は5ラック・19ノードの HGX B200 クラスターで DSX MaxLPS を検証し、16ノードの最大電力と同じ予算で19ノードを稼働させた。トークンスループットは毎秒約400万から500万に24%増え、1ワット当たり性能は23%向上した。
入選の記録
基準 60公式・一次情報1 回目 622 回目 62
入選二回の合計 124 ≥ 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過：NVIDIA AI工厂GPU算力与电网调度技术
- 推薦理由
- 実際の導入における DSX 各構成要素の数値は、一定の電力予算でトークンスループットを高める現実的な方法を示す。
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：NVIDIA Blog · blogs.nvidia.com