跳到正文
Hugging Face Blog·· 2021-11-04AI 评分47

在现代 CPU 上扩展 BERT 类模型推理 — 第二部分:Intel 软件优化

Scaling up BERT-like model Inference on modern CPU - Part 2

AI 导读

Hugging Face 与 Intel 合作介绍在 Intel Xeon Ice Lake CPU 上用软件优化 BERT 类模型推理的方法,Ice Lake 相比上一代 Cascade Lake 在多种 NLP 任务上推理最高快 75%。

来源:Hugging Face Blog · huggingface.co