跳到正文
热点事件持续更新

PyTorch 2.15 为 Mac MPS 带来 FP8 与解码加速

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 后端更新:FP8(torch.float8_e4m3fn)登陆 Mac,可用 F.scaled_mm 直接做缩放矩阵乘法,占用内存为 BF16 的一半;语言模型解码在线性层和 softmax 上获得更快路径,新的 Metal 内核针对音频、视频和训练负载中的高开销部分。 使用需 Apple silicon Mac、macOS 15 或更高版本、Python 3.11 或更高版本。团队称部分改动已进入主干并可在 nightly 中使用,另一些仍在评审,正式发布前细节可能变化。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. Hugging Face Blog精选
    PyTorch 2.15 为 Mac 的 MPS 后端带来 FP8 支持与更快的 LLM 解码

    Hugging Face 的 PyTorch 团队发布 PyTorch 2.15 的 MPS 更新:FP8(torch.float8_e4m3fn)登陆 Mac,可用 F.scaled_mm 直接做缩放矩阵乘法,占用内存为 BF16 的一半。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。