跳到正文
原文
NVIDIA Blog· Vishal Ganeriwala·· 14 天前精选AI 评分60

NVIDIA DSX 通过 MaxLPS 与 Flex 提升 AI 工厂每兆瓦产出

From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production

AI 导读

NVIDIA 介绍 DSX 平台如何在固定电力预算下提升 AI 工厂产出:Lambda 在 HGX B200 服务器上首次验证 DSX MaxLPS,用与 16 节点满功率相同的预算运行 19 节点,集群 token 吞吐从约 4 million tokens per second 提升到 5 million(+24%),性能功耗比提升 23%。

推荐理由

原文给出了 Lambda 实测的吞吐与能效数字,以及电网信号自动降载的生产案例,可据此评估其对电力受限场景的实际价值。

来源:NVIDIA Blog · blogs.nvidia.com