Hugging Face Blog·· 2024-03-20AI 评分55
Hugging Face 教你在 Intel Meteor Lake 笔记本上运行 Phi-2 聊天机器人
A Chatbot on your Laptop: Phi-2 on Intel Meteor Lake
AI 导读
Hugging Face 通过 Optimum Intel 集成 Intel OpenVINO，将 2.7B 参数的 Phi-2 模型做 4-bit 权重量化，在搭载 Core Ultra 7 155H 的中端笔记本上运行本地推理。
来源：Hugging Face Blog · huggingface.co