跳到正文
Hugging Face Blog·· 2025-06-23AI 评分47

SGLang 集成 Hugging Face transformers 作为后端

Transformers backend integration in SGLang

AI 导读

SGLang 现已支持将 Hugging Face transformers 作为后端,可开箱运行任何 transformers 兼容模型的高性能推理,遇到 SGLang 原生不支持的模型时会自动回退到 transformers 实现,也可通过 `impl="transformers"` 显式指定。

来源:Hugging Face Blog · huggingface.co