Hugging Face Blog·· 2024-07-29AI 评分45
Hugging Face 推出 NVIDIA NIM API（serverless）无服务器推理服务
Serverless Inference with Hugging Face and NVIDIA NIM
AI 导读
Hugging Face 推出 NVIDIA NIM API（serverless）无服务器推理服务，面向 Enterprise Hub 组织，基于 NVIDIA DGX Cloud 提供 Llama、Mistral 等开源模型的推理 API，兼容 OpenAI SDK，按计算时间计费（H100 GPU $8.25/小时）。
来源：Hugging Face Blog · huggingface.co