Hugging Face Blog·· 2023-05-31AI 评分49
Hugging Face 推出 LLM Inference Container 用于 Amazon SageMaker 部署
Introducing the Hugging Face LLM Inference Container for Amazon SageMaker
AI 导读
Hugging Face 推出 LLM Inference Container（DLC），可在 Amazon SageMaker 上部署开源 LLM，底层由 Text Generation Inference（TGI）驱动。
来源：Hugging Face Blog · huggingface.co