Hugging Face Blog·· 2025-09-29AI 评分45
用深度剪枝草稿模型加速 Intel® Core™ Ultra 上的 Qwen3-8B Agent
Accelerating Qwen3-8B Agent on Intel® Core™ Ultra with Depth-Pruned Draft Models
AI 导读
Hugging Face 用 OpenVINO.GenAI 的投机解码把 Qwen3-8B 在 Intel® Core™ Ultra 上的生成速度提升约 1.3×，再对 Qwen3-0.6B 草稿模型剪掉 28 层中的 6 层并微调，加速比推到约 1.4×。
来源：Hugging Face Blog · huggingface.co