跳到正文
Hugging Face Blog·· 2025-04-29AI 评分44

Intel AutoRound:面向 LLM 和 VLM 的先进量化工具

Introducing AutoRound: Intel’s Advanced Quantization for LLMs and VLMs

AI 导读

Intel 推出 AutoRound,一款基于 signed gradient descent 的 weight-only 后训练量化(PTQ)工具,支持 INT2-INT8 低比特量化,在 INT2 精度下相对准确率比主流基线最高高出 2.1x。

来源:Hugging Face Blog · huggingface.co