PyTorch 2.15 为 Mac MPS 带来 FP8 与解码加速
热点事件持续更新
PyTorch 2.15 为 Mac MPS 带来 FP8 与解码加速
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 后端更新:FP8(torch.float8_e4m3fn)登陆 Mac,可用 F.scaled_mm 直接做缩放矩阵乘法,占用内存为 BF16 的一半;语言模型解码在线性层和 softmax 上获得更快路径,新的 Metal 内核针对音频、视频和训练负载中的高开销部分。 使用需 Apple silicon Mac、macOS 15 或更高版本、Python 3.11 或更高版本。团队称部分改动已进入主干并可在 nightly 中使用,另一些仍在评审,正式发布前细节可能变化。
AI 根据报道生成 · 2 小时前更新
最新进展10月20日 08:00
PyTorch 2.15 为 Mac 的 MPS 后端带来 FP8 支持与更快的 LLM 解码报道时间线
沿着报道,了解事件的不同侧面。
10月20日
- Hugging Face Blog精选PyTorch 2.15 为 Mac 的 MPS 后端带来 FP8 支持与更快的 LLM 解码
Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 更新:FP8(torch.float8_e4m3fn)登陆 Mac,可用 F.scaled_mm 直接做缩放矩阵乘法,占用内存为 BF16 的一半。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。