Mistral AI·· 2026-01-22精选AI 评分61
Mistral AI 排查 vLLM 分离式部署内存泄漏：UCX mmap hook 是元凶
Heaps do lie: debugging a memory leak in vLLM.
AI 导读
Mistral AI 在 Engineering Deep Dive 系列首篇文章中复盘了排查 vLLM 内存泄漏的过程：在 Mistral Medium 3.1 配合 Prefill/Decode 分离式部署且启用 graph compilation 时，系统内存以 400 MB/分钟线性增长。
推荐理由
逐层递进的排查路径和每种工具的失效原因，对定位同类底层内存问题有直接可迁移的方法价值。
来源：Mistral AI · mistral.ai