Hugging Face transformers vLLM 后端达到原生推理速度

Hugging Face 宣布 transformers 的 vLLM 建模后端在多种 LLM 架构上已达到或超过 vLLM 手写原生实现的速度，模型作者只需加 --model-impl transformers 标志即可免费获得极速推理。