Hugging Face Blog·· 2024-10-22精选AI 评分74
Hugging Face 发布 Transformers.js v3，支持 WebGPU 加速与 120 种架构
Transformers.js v3: WebGPU Support, New Models & Tasks, and More…
AI 导读
Hugging Face 官方发布 Transformers.js v3，加入 WebGPU 支持，性能最高可达 WASM 的 100 倍，可通过设置 device: 'webgpu' 启用。
推荐理由
原文列出了 WebGPU 加速与 dtype 量化参数的具体用法，读者可据此判断浏览器端模型部署的性能与体积取舍。
来源：Hugging Face Blog · huggingface.co