Hugging Face 推出 PyTorch 量化后端 quanto 并集成进 transformers

Hugging Face 发布 quanto，一个面向 Optimum 的 PyTorch 量化后端，支持 int2、int4、int8、float8 权重与 int8、float8 激活，可在 CUDA、CPU、MPS 任意设备上运行，并提供从浮点模型到动态/静态量化模型的完整工作流。