NVIDIA Blog· Amr Elmeleegy·· 3 小时前AI 评分44
NVIDIA 全栈协同设计如何破解 AI 内存挑战
More Performance From Every Byte: How Full-Stack Codesign Solves AI’s Memory Challenge
AI 导读
NVIDIA 提出全栈协同设计(full-stack codesign),通过 GPU、CPU、网络、存储与软件的协同优化,在 Blackwell Ultra 到 Vera Rubin 平台上 HBM 容量每 GPU 仅提升约 3% 的情况下,将 SemiAnalysis AgentX 上的 agentic 吞吐量每美元成本提升最高达 30x。
来源:NVIDIA Blog · blogs.nvidia.com