Hugging Face Blog·· 2025-04-29AI 评分44
Intel AutoRound:面向 LLM 和 VLM 的先进量化工具
Introducing AutoRound: Intel’s Advanced Quantization for LLMs and VLMs
AI 导读
Intel 推出 AutoRound,一款基于 signed gradient descent 的 weight-only 后训练量化(PTQ)工具,支持 INT2-INT8 低比特量化,在 INT2 精度下相对准确率比主流基线最高高出 2.1x。
来源:Hugging Face Blog · huggingface.co