跳到正文
Hugging Face Blog·· 2024-02-29AI 评分28

在 Intel® Gaudi® 2 AI 加速器上运行 Llama 2 文本生成 Pipeline

Text-Generation Pipeline on Intel® Gaudi® 2 AI Accelerator

AI 导读

Hugging Face 展示了如何用 Optimum Habana 的自定义 GaudiTextGenerationPipeline 在 Intel® Gaudi® 2 上以几行代码运行 Llama 2(7b、13b、70b)文本生成,涵盖预处理与后处理。

来源:Hugging Face Blog · huggingface.co