AWS Machine Learning Blog· Sitaraman Vijay Krishna·· 21 小时前AI 评分57
AWS 教程:用 Amazon Bedrock 和 LiteLLM 搭建自助 LLM 网关
Building a self-service LLM gateway with Amazon Bedrock and LiteLLM
AI 导读
AWS 官方博客介绍如何用 Amazon Bedrock Application Inference Profiles 配合运行在 AWS Fargate 上的 LiteLLM。
来源:AWS Machine Learning Blog · aws.amazon.com