跳到正文
MIT Technology Review · AI· Tim Rausch·· 4 小时前AI 评分38

AI 推理的隐形存储账单:模型响应后留下的数据成本

AI’s hidden storage bill: What inference leaves behind

AI 导读

MIT Technology Review 指出,AI 基础设施预算往往只算 GPU 和算力,却漏掉了推理持续产生的后端数据存储成本。西部数据(WD)内部测量显示,一段 8 秒、3.97MB 的 720p AI 生成视频,会在后端留下超过 500MB 的日志、缓存、渲染和安全记录,是用户可见输出的 130 倍。

来源:MIT Technology Review · AI · technologyreview.com