跳到正文
AWS Machine Learning Blog· Sitaraman Vijay Krishna·· 21 小时前AI 评分57

AWS 教程:用 Amazon Bedrock 和 LiteLLM 搭建自助 LLM 网关

Building a self-service LLM gateway with Amazon Bedrock and LiteLLM

AI 导读

AWS 官方博客介绍如何用 Amazon Bedrock Application Inference Profiles 配合运行在 AWS Fargate 上的 LiteLLM。

来源:AWS Machine Learning Blog · aws.amazon.com