Hugging Face Blog·· 2024-06-04AI 评分34
Hugging Face 为 Intel Gaudi 加速 assisted generation 支持
Faster assisted generation support for Intel Gaudi
AI 导读
Hugging Face 将 assisted generation（基于 Speculative Sampling）适配并优化到 Intel Gaudi 处理器，现已集成进 Optimum Habana。
来源：Hugging Face Blog · huggingface.co