Bedrock开放权重模型新增显式提示缓存
热点事件持续更新
Bedrock开放权重模型新增显式提示缓存
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Amazon Bedrock 为开源权重模型新增显式 prompt caching 支持,与原有隐式缓存并行可用。两种模式均通过 Chat Completions API 调用:隐式缓存自动复用匹配前缀;显式缓存需用 prompt_cache_options 将 mode 设为 explicit,并添加 prompt_cache_breakpoint 标记。 计费上,缓存读取费率低于标准输入,前缀每次复用可累积节省;缓存写入费率视模型可能高于标准输入;最后一个断点之后的内容按标准输入费率计费。模型可用性与提示缓存支持因 AWS Region 而异,需查看模型卡确认。
AI 根据报道生成 · 10 小时前更新
最新进展11月16日 23:42
Amazon Bedrock 为开源权重模型新增显式 prompt caching 支持报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- AWS Machine Learning BlogAmazon Bedrock 为开源权重模型新增显式 prompt caching 支持
Amazon Bedrock 的开源权重模型现已支持显式 prompt caching,与原有的隐式缓存并行可用。两种模式均通过 Chat Completions API 调用:隐式缓存自动复用匹配前缀,显式缓存需用 prompt_cache_options 设置 mode 为 explicit 并添加 prompt_cache_breakpoint 标记。
本事件热度走势
- 可比范围当前
- 8
- 可比范围峰值
- 1011月17日 01:00
- 近 24 小时变化
- –
02.557.510
02:0004:0006:0008:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。