Hugging Face Blog·· 2024-10-23AI 评分41
Hugging Face 推出 HUGS:零配置开源模型推理微服务
Introducing HUGS - Scale your AI with Open Models
AI 导读
Hugging Face 推出 Hugging Face Generative AI Services(HUGS),一套基于 Text Generation Inference(TGI)的零配置推理微服务,可在自有基础设施上部署开源模型,提供 OpenAI 兼容 API,支持 NVIDIA、AMD GPU,AWS Inferentia 和 Google TPU 即将支持。
来源:Hugging Face Blog · huggingface.co