跳到正文
热点事件持续更新

Anthropic 公测 Message Threads,长对话首 token 延迟降约 35%

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Anthropic 在 Claude 平台公测 Message Threads 功能:此前每次 API 请求都要重发完整对话历史,现在只传输自上一条消息以来的变化内容。据 Anthropic 称,这可让 500,000 到 1,000,000 tokens 的请求首 token 时间缩短约 35%。 该功能在 Claude 平台及 AWS、Microsoft Foundry、Google Cloud 上可用。线程在请求之间以加密形式驻留内存,闲置五分钟后过期;由于 Claude 仍读取完整对话历史,token 用量不变。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. The Decoder
    Anthropic 为 Claude 平台推出 Message Threads 公测,长对话首 token 延迟降低约 35%

    Anthropic 在 Claude 平台发布 Message Threads 公测功能,此前每次 API 请求都要重发完整对话历史,现在只传输自上一条消息以来的变化内容,据 Anthropic 称可让 500,000 到 one million tokens 的请求首 token 时间缩短约 35%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。