AWS Machine Learning Blog· Sai Pavan Kasani·· 19 小时前AI 评分56
Amazon Bedrock 推理成本的四个请求级选择及实测验证
Four Amazon Bedrock inference choices that affect cost
AI 导读
AWS 官方博客介绍 Amazon Bedrock 中四个影响推理成本的请求级选择：缓存时长、服务层级、推理力度和 maxTokens，并给出各自的实测结果与验证方法。
来源：AWS Machine Learning Blog · aws.amazon.com