Hugging Face Blog·· 2023-07-04AI 评分41
使用 Hugging Face Inference Endpoints 部署 LLM 教程
Deploy LLMs with Hugging Face Inference Endpoints
AI 导读
Hugging Face Inference Endpoints 是一款托管 SaaS 服务,可通过几次点击将开源 LLM(如 Falcon 40B instruct)部署为生产级 API,支持自动扩缩容、scale-to-zero 降本与 SOC2 Type 2 安全认证。
来源:Hugging Face Blog · huggingface.co