Latent Space·· 16 小时前精选AI 评分88
DeepSeek 开源 DeepInfer 推理框架并披露生产经济数据
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,配套发布 deepseek-recipe 组件,支持分布式推理、投机解码、SWA Bounded Replay 与结构化输出,可运行于 NVIDIA SM100 与华为 Ascend 950 平台。
推荐理由
原文梳理了开源范围与经济测算的边界,读者可据此分辨哪些结论可迁移、哪些仍属自报数据。
来源:Latent Space · latent.space