跳到正文
热点事件持续更新

Bedrock开放权重模型新增显式提示缓存

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Amazon Bedrock 为开源权重模型新增显式 prompt caching 支持,与原有隐式缓存并行可用。两种模式均通过 Chat Completions API 调用:隐式缓存自动复用匹配前缀;显式缓存需用 prompt_cache_options 将 mode 设为 explicit,并添加 prompt_cache_breakpoint 标记。 计费上,缓存读取费率低于标准输入,前缀每次复用可累积节省;缓存写入费率视模型可能高于标准输入;最后一个断点之后的内容按标准输入费率计费。模型可用性与提示缓存支持因 AWS Region 而异,需查看模型卡确认。

AI 根据报道生成 · 10 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. AWS Machine Learning Blog
    Amazon Bedrock 为开源权重模型新增显式 prompt caching 支持

    Amazon Bedrock 的开源权重模型现已支持显式 prompt caching,与原有的隐式缓存并行可用。两种模式均通过 Chat Completions API 调用:隐式缓存自动复用匹配前缀,显式缓存需用 prompt_cache_options 设置 mode 为 explicit 并添加 prompt_cache_breakpoint 标记。

本事件热度走势

可比范围当前
8
可比范围峰值
1011月17日 01:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。