🟡 🏥 实践应用 发布于: · 2 分钟阅读 ·

Anthropic:Messages API返回usage.output_tokens_details.thinking_tokens——对计费和流式传输意味着什么

Urednička ilustracija: Messages API vraća usage.output_tokens_details.thinking_tokens — što znači za fakturiranje i st

Anthropic Messages API现在在每个使用扩展思考的响应的usage对象中包含output_tokens_details.thinking_tokens字段。测量推理成本的开发者需要注意,计费基于实际生成的全部思考令牌,而非响应中显示的摘要——差异可达20倍甚至更多。

🤖

本文由人工智能基于一手来源生成。

Anthropic Messages API现在通过usage对象内的output_tokens_details.thinking_tokens字段明确报告内部思考令牌。此变更使开发者能够精确跟踪扩展思考调用的成本——但有一个重要说明可能令未仔细阅读文档的团队感到意外。

usage.output_tokens_details.thinking_tokens是什么,为何重要?

该字段出现在每个使用扩展思考的API响应中,结构如下:

{
  "usage": {
    "input_tokens": 1024,
    "output_tokens": 512,
    "output_tokens_details": {
      "thinking_tokens": 10000
    }
  }
}

关键区别:Anthropic对所有生成的思考令牌计费,而非返回给用户的摘要显示。如果thinking_tokens: 10000,但思考块中的摘要仅包含500个令牌,账单按10,000计算。可见令牌与计费令牌之间的差异可能是20倍甚至更多,具体取决于任务复杂度和使用的模型。

思考块摘要(summarized thinking)如何工作?

Claude Sonnet 4.6、Opus 4.6及更新模型默认使用摘要(summarized thinking)作为显示方式。内部推理由专用模型处理,将结论压缩为较短形式——该摘要显示在块的thinking字段中,而完整令牌数记录在thinking_tokens中。

摘要不影响思考质量——Claude看到完整的内部过程;只是输出表示对用户进行了缩减。思考块中的signature字段保存完整内容的加密版本,用于多轮对话,必须在会话继续时原样传递。

流式传输行为与延迟

希望减少到第一个文本令牌延迟的开发者可以在流式传输模式中使用display: "omitted"

  • 服务器不发送thinking_delta事件
  • 完全跳过思考内容的流式传输
  • 结果:更快的首个文本时间(time-to-first-text-token
  • 费用保持不变——思考令牌仍然计费

Claude Fable 5、Mythos 5和Opus 4.8默认使用display: "omitted",而Sonnet 4.6和Opus 4.6使用display: "summarized"

预算限制与缓存交互

budget_tokens参数设置每个请求的思考令牌上限,必须小于max_tokens。使用交错思考时,预算在单次会话的所有思考块之间共享。重要限制:更改思考参数(启用/禁用、更改预算)会使消息的缓存断点失效——积极使用提示缓存的系统必须将此成本纳入考量。

模型最大输出限制:Opus 4.8、4.7、4.6和Mythos Preview支持最多128k输出令牌;Sonnet 4.6和Haiku 4.5支持最多64k。通过Batch API和output-300k-2026-03-24 beta标志,Opus模型可生成最多300k令牌。

常见问题

Anthropic API响应中的output_tokens_details.thinking_tokens是什么?
这是usage对象中的一个字段,显示Claude在内部推理时实际生成了多少思考令牌。该数字可能与响应中思考块可见的令牌数量差异悬殊,因为思考内容可能被压缩摘要。
Anthropic API中的思考令牌如何计费?
计费基于所有生成的思考令牌(显示在thinking_tokens字段中),而非返回给用户的摘要令牌。如果模型生成了10,000个思考令牌,但摘要仅包含500个,则按10,000个计费。
使用display: omitted流式传输能否降低延迟?
可以——使用display: omitted流式传输时跳过发送thinking_delta事件,从而降低到第一个文本的延迟。费用保持不变,因为所有思考令牌仍然计费。

📬 AI 新闻直达您的邮箱

按您的方式定制每日摘要——自选主题、来源和频率,一键退订。