Anthropic 公测 Message Threads,长对话首 token 延迟降约 35%
热点事件持续更新
Anthropic 公测 Message Threads,长对话首 token 延迟降约 35%
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Anthropic 在 Claude 平台公测 Message Threads 功能:此前每次 API 请求都要重发完整对话历史,现在只传输自上一条消息以来的变化内容。据 Anthropic 称,这可让 500,000 到 1,000,000 tokens 的请求首 token 时间缩短约 35%。 该功能在 Claude 平台及 AWS、Microsoft Foundry、Google Cloud 上可用。线程在请求之间以加密形式驻留内存,闲置五分钟后过期;由于 Claude 仍读取完整对话历史,token 用量不变。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- The DecoderAnthropic 为 Claude 平台推出 Message Threads 公测,长对话首 token 延迟降低约 35%
Anthropic 在 Claude 平台发布 Message Threads 公测功能,此前每次 API 请求都要重发完整对话历史,现在只传输自上一条消息以来的变化内容,据 Anthropic 称可让 500,000 到 one million tokens 的请求首 token 时间缩短约 35%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。