Anthropic: Messages API의 usage.output_tokens_details.thinking_tokens — 청구 및 스트리밍에 미치는 영향
Anthropic Messages API는 이제 Extended Thinking을 사용하는 모든 응답의 usage 객체에 output_tokens_details.thinking_tokens 필드를 포함합니다. 추론 비용을 측정하는 개발자는 응답에서 보이는 요약본이 아닌 생성된 전체 thinking 토큰이 청구된다는 점을 알아야 합니다. 차이는 20배 이상일 수 있습니다.
이 기사는 AI가 1차 출처를 기반으로 생성했습니다.
Anthropic Messages API는 이제 usage 객체 내 output_tokens_details.thinking_tokens 필드를 통해 내부 thinking 토큰을 명시적으로 보고합니다.
usage.output_tokens_details.thinking_tokens란 무엇이며 왜 중요한가?
이 필드는 Extended Thinking을 사용하는 모든 API 응답에 나타납니다:
{
"usage": {
"input_tokens": 1024,
"output_tokens": 512,
"output_tokens_details": {
"thinking_tokens": 10000
}
}
}Anthropic은 생성된 모든 thinking 토큰을 청구합니다. 보이는 토큰과 청구되는 토큰의 차이는 20배 이상일 수 있습니다.
thinking 블록 요약은 어떻게 작동하나요?
Claude Sonnet 4.6, Opus 4.6는 기본 표시 방식으로 요약(summarized thinking)을 사용합니다. 요약은 추론 품질에 영향을 미치지 않습니다. signature 필드는 멀티턴 대화를 위해 전체 내용의 암호화된 버전을 보존합니다.
스트리밍 동작과 레이턴시
display: "omitted"는 thinking_delta 이벤트를 건너뜁니다 — 레이턴시는 줄어들지만 비용은 동일합니다. Claude Fable 5, Mythos 5, Opus 4.8은 omitted를 기본 설정으로 사용합니다.
예산 제한과 캐시 상호작용
budget_tokens는 상한선을 설정합니다. thinking 파라미터를 변경하면 캐시 브레이크포인트가 무효화됩니다. Opus 4.8, 4.7, 4.6는 최대 128k 출력 토큰을 지원하며, Sonnet 4.6과 Haiku 4.5는 최대 64k를 지원합니다.
자주 묻는 질문
- usage.output_tokens_details.thinking_tokens 필드는 무엇을 나타내나요?
- Extended Thinking을 사용하는 API 응답에서 실제로 생성된 thinking 토큰 수를 나타냅니다. 이 숫자가 청구 기준이며, 응답에 표시되는 요약본보다 훨씬 클 수 있습니다.
- thinking 블록 요약이 비용에 영향을 미치나요?
- 아니요. 요약은 표시 방식에만 영향을 미치며, 청구는 생성된 전체 thinking 토큰 기준입니다. display: omitted로 설정해도 비용은 동일합니다.
📬 AI 뉴스를 받은편지함으로
나만의 방식으로 구성하는 일일 다이제스트 — 주제, 출처, 주기를 선택하세요. 원클릭 해지.