跳到正文
Hugging Face Blog·· 2024-10-23AI 评分41

Hugging Face 推出 HUGS:零配置开源模型推理微服务

Introducing HUGS - Scale your AI with Open Models

AI 导读

Hugging Face 推出 Hugging Face Generative AI Services(HUGS),一套基于 Text Generation Inference(TGI)的零配置推理微服务,可在自有基础设施上部署开源模型,提供 OpenAI 兼容 API,支持 NVIDIA、AMD GPU,AWS Inferentia 和 Google TPU 即将支持。

来源:Hugging Face Blog · huggingface.co