Anthropic: thinking_tokens in API — was wird berechnet

Die Anthropic Messages API enthaelt nun das Feld output_tokens_details.thinking_tokens im usage-Objekt jeder Antwort, die Extended Thinking nutzt. Entwickler, die Inferenzkosten messen, muessen wissen, dass alle generierten Thinking-Tokens abgerechnet werden — nicht die zusammengefasste Ansicht in der Antwort. Der Unterschied kann 20-fach oder mehr betragen.

Die Anthropic Messages API berichtet nun explizit ueber interne Thinking-Tokens durch das Feld output_tokens_details.thinking_tokens im usage-Objekt. Diese Aenderung ermoeglicht Entwicklern praezises Kosten-Tracking fuer Extended-Thinking-Aufrufe — mit einem wichtigen Hinweis, der Teams ueberraschen kann.

Was ist usage.output_tokens_details.thinking_tokens?

Das Feld erscheint in jeder API-Antwort mit Extended Thinking:

{
  "usage": {
    "input_tokens": 1024,
    "output_tokens": 512,
    "output_tokens_details": {
      "thinking_tokens": 10000
    }
  }
}

Der entscheidende Unterschied: Anthropic rechnet alle generierten Thinking-Tokens ab, nicht die zusammengefasste Ansicht. Betraegt thinking_tokens: 10000, aber die Zusammenfassung hat nur 500 Tokens, wird fuer 10.000 abgerechnet. Die Differenz kann Faktor 20 oder mehr erreichen.

Wie funktioniert die Thinking-Block-Zusammenfassung?

Claude Sonnet 4.6, Opus 4.6 und neuere Modelle nutzen Summarized Thinking als Standard. Internes Reasoning wird durch ein Spezialmodell komprimiert — die Zusammenfassung erscheint im thinking-Feld, waehrend die volle Token-Anzahl in thinking_tokens erfasst wird. Die Zusammenfassung beeintraechtigt die Denkqualitaet nicht.

Streaming-Verhalten und Latenz

Mit display: "omitted" im Streaming-Modus werden keine thinking_delta-Events gesendet, was die Zeit bis zum ersten Texttoken reduziert. Die Kosten bleiben unveraendert. Claude Fable 5, Mythos 5 und Opus 4.8 verwenden display: "omitted" als Standard; Sonnet 4.6 und Opus 4.6 verwenden display: "summarized".

Budget-Limits und Cache-Interaktion

Der Parameter budget_tokens setzt ein Limit fuer Thinking-Tokens pro Anfrage. Wichtig: Aenderungen an Thinking-Parametern invalidieren Cache-Breakpoints — Systeme mit aggressivem Prompt-Caching muessen diesen Kostenfaktor beruecksichtigen. Maximale Output-Limits: Opus 4.8/4.7/4.6 und Mythos Preview bis 128k Tokens; Sonnet 4.6 und Haiku 4.5 bis 64k.

Häufig gestellte Fragen

Was ist output_tokens_details.thinking_tokens in einer Anthropic-API-Antwort?

Ein Feld im usage-Objekt, das zeigt, wie viele Thinking-Tokens Claude beim internen Reasoning tatsaechlich generiert hat. Die Zahl kann stark vom sichtbaren Thinking-Block abweichen, da Thinking zusammengefasst werden kann.

Wie werden Thinking-Tokens in der Anthropic API abgerechnet?

Es werden alle generierten Thinking-Tokens abgerechnet (im thinking_tokens-Feld), nicht die zusammengefassten Tokens. Wurden 10.000 Thinking-Tokens generiert, aber die Zusammenfassung enthaelt nur 500, wird fuer 10.000 berechnet.

Kann Streaming mit display: omitted die Latenz reduzieren?

Ja — Streaming mit display: omitted ueberspringt thinking_delta-Events und reduziert die Latenz bis zum ersten Texttoken. Die Kosten bleiben gleich, da alle Thinking-Tokens weiterhin abgerechnet werden.

Anthropic: Messages API liefert usage.output_tokens_details.thinking_tokens — Bedeutung fuer Abrechnung und Streaming

Was ist usage.output_tokens_details.thinking_tokens?

Wie funktioniert die Thinking-Block-Zusammenfassung?

Streaming-Verhalten und Latenz

Budget-Limits und Cache-Interaktion

Häufig gestellte Fragen

Quellen

Verwandte Nachrichten