Claude API公测消息线程功能 长对话无需反复上传历史 首词延迟可降低35%
2026-11-3 07:30:16 Author: www.landian.news(查看原文) 阅读量:8 收藏

#人工智能 Claude API 开始公测消息线程功能,该功能可以复用对话历史减少反复上传历史内容,让模型响应速度更快。消息线程功能的原理是,首次发送完整对话内容,线程创建后,后续只需要发送新增内容即可。在长对话中单次请求大小的中位数从 800KB 降低到 1.8KB,Claude 开始输出的中位等待时间缩短 35%。该功能主要是提高效率,不会降低 Token 数量,但也不需要额外付费即可使用。查看全文:https://ourl.co/128028

A 社日前宣布为 Claude Messages API 推出 Message Threads 消息线程功能,该功能旨在改善长对话的历史内容反复发送问题。用户首次发送完整对话后,后续请求只需要提交新增消息和上条回复的 ID,服务器会暂存线程内容以减少反复上传造成的开销。

Claude API公测消息线程功能 长对话无需反复上传历史 首词延迟可降低35%
本图片由 AI 生成,仅做示意使用

值得注意的是该功能已经为大多数 Claude Code 用户默认启用,在包含 500K 到 1M Token 的请求中,Claude 开始输出的中位等待时间缩短大约 35%。此次则是为 Claude API 用户提供。

Messages API 通常由开发者在每轮请求中提供模型需要的对话内容,对于编程智能体来说,一次会话可能包含大量文件内容、工具调用和返回结果,这个过程可能会产生数百次请求。随着上下文内容持续增加,重复发送的历史内容也会增加传输和请求处理时间。

消息线程功能会将这部分工作转移到服务端:首次请求创建线程并提交完整的上下文,之后的请求通过上一条回复的 ID 接续线程,这样只需要每次传输新增内容不需要反复上传历史内容。

该功能在 Claude Code 中取得不错的效果:在长对话中,单次请求大小的中位数从 800KB 降低到 1.8KB,在缩短传输内容后,模型首词响应时间也缩短 35%。

消息线程主要减少客户端与服务器之间重复传输的内容,A 社表示模型在每轮处理时仍然会使用完整的对话上下文,因此启用消息线程后并不会减少 Token 的使用量,所以目前价格和速率限制都不会有变化。

开发者还可以将消息线程与提示词缓存配合使用,前者用于减少重复上传,后者用于复用已经缓存的上下文,符合缓存条件的内容将按照对应的缓存价格计费。

开发者可以在 Messages API 请求中增加 thread 参数,在每次线程请求中提供测试版请求头 message-threads-2026-08-12,首次请求创建线程,后续请求传入新增消息和上一条回复的 ID。

线程在最后一次请求后闲置 5 分钟就会过期,继续使用已经过期的线程时接口会返回错误,此时客户端需要重新提交保存的完整对话并创建新线程。A 社建议应用自行保留完整消息记录,官方 SDK 的线程辅助功能可以处理重新发送的过程。

另外同一线程只能持续追加内容,系统提示词、工具定义和部分固定请求参数需要在线程内保持一致。如果需要修改这些设置或将较早的对话替换为摘要,则需要重新创建新线程。


消息源:Anthropic

热门推荐美国硅谷/韩国首尔VPS服务器,仅需99元/年。另有国内低延迟3年版服务器,仅需528元。库存有限售完即止。

  • 谷歌搜索近期出现奇怪的风控问题:用户点击搜索结果要等待10秒进行自动验证

  • 让人摸不着头脑:联想所谓的指纹加密U盘竟然是内置存储卡 拔卡即可绕过限制读取数据

  • Claude使用政策已经更新 将API中转站的登录/转售行为都列入禁止行为

  • 法国计划对奈飞/YTB等流量进行征税 每GB 0.055欧元 有开发者写脚本故意刷流量

  • 来就是朋友:Grok AI现已支持支付宝开通订阅 也支持自动续费等功能

  • Claude AI订阅套餐调整:Max 20x更名为Ultra 且200美元版取消5H限制


文章来源: https://www.landian.news/archives/128028.html
如有侵权请联系:admin#unsafe.sh