Hugging Face Blog·· 2025-07-09AI 评分58
Hugging Face 与 AMD 合作为 MI300X 打造 Llama 3.1 405B FP8 推理优化 kernel
Creating custom kernels for the AMD MI300
AI 导读
Hugging Face 与 AMD 合作开源了针对 8 MI300X 节点上用 VLLM 跑 Llama 3.1 405B FP8 推理的优化 kernel，代码发布在 hf-rocm-kernels 仓库。
来源：Hugging Face Blog · huggingface.co