Hugging Face Blog·· 2021-11-04AI 评分47
在现代 CPU 上扩展 BERT 类模型推理 — 第二部分:Intel 软件优化
Scaling up BERT-like model Inference on modern CPU - Part 2
AI 导读
Hugging Face 与 Intel 合作介绍在 Intel Xeon Ice Lake CPU 上用软件优化 BERT 类模型推理的方法,Ice Lake 相比上一代 Cascade Lake 在多种 NLP 任务上推理最高快 75%。
来源:Hugging Face Blog · huggingface.co