跳到正文
Hugging Face Blog·· 2023-07-04AI 评分41

使用 Hugging Face Inference Endpoints 部署 LLM 教程

Deploy LLMs with Hugging Face Inference Endpoints

AI 导读

Hugging Face Inference Endpoints 是一款托管 SaaS 服务,可通过几次点击将开源 LLM(如 Falcon 40B instruct)部署为生产级 API,支持自动扩缩容、scale-to-zero 降本与 SOC2 Type 2 安全认证。

来源:Hugging Face Blog · huggingface.co