🟢 🏥 In der Praxis Veröffentlicht: · 2 Min. Lesezeit ·

Anthropic: Advisor-Tool erhält max_tokens, abgelehnte Anfragen ohne Berechnung

Redaktionelle Illustration: Advisor-Tool erhält max_tokens, abgelehnte Anfragen ohne Berechnung

Am 2. Juni führte Anthropic zwei Änderungen an der Claude-API ein. Das Advisor-Tool unterstützt nun den Parameter max_tokens, um die Ausgabe des Advisor-Modells pro Aufruf zu begrenzen, und Anfragen, die stop_reason refusal ohne erzeugte Ausgabe zurückgeben, werden nicht mehr berechnet.

🤖

Dieser Artikel wurde mithilfe von künstlicher Intelligenz aus Primärquellen erstellt.

In seinen Release Notes für den 2. Juni 2026 hat Anthropic zwei Änderungen an der Claude-API veröffentlicht, die auf eine bessere Kosten- und Latenzkontrolle für Entwicklungsteams abzielen.

Was bringt das neue max_tokens für das Advisor-Tool?

Das Advisor-Tool, ein Mechanismus, bei dem ein separates Advisor-Modell während der Werkzeugnutzung Hinweise liefert, unterstützt nun den Parameter max_tokens. Durch Setzen von tools[].max_tokens in der Definition des Advisor-Tools lässt sich die Länge der Ausgabe des Advisor-Modells pro einzelnem Aufruf begrenzen. Das ist nützlich für Arbeitsabläufe, die keine Antworten in voller Länge benötigen, da es sowohl die Latenz als auch die Kosten der Ausgabetokens senkt.

Was ändert sich bei der Berechnung abgelehnter Anfragen?

Die zweite Änderung betrifft die Abrechnung. Auf der Claude-API wird eine Anfrage nicht mehr berechnet, wenn sie stop_reason: "refusal" zurückgibt und Claude dabei keine Ausgabe erzeugt hat. Mit anderen Worten: Lehnt das Modell eine Anfrage aus Sicherheitsgründen ohne jeglichen Text ab, fließt dieser Aufruf nicht in die Abrechnung ein. Zum Erkennen und Verarbeiten solcher Ablehnungen verweist Anthropic auf die Dokumentation zu Streaming-Refusals.

Warum sind diese Änderungen wichtig?

Beide Änderungen sind kleine, aber praktische Optimierungen für all jene, die Anwendungen auf der Claude-API aufbauen. Die Begrenzung der Ausgabe des Advisor-Modells gibt feinere Kontrolle über die Kosten in agentischen Abläufen, während der Wegfall der Berechnung abgelehnter Anfragen die Kosten für Aufrufe beseitigt, die ohnehin kein nützliches Ergebnis liefern.

Häufig gestellte Fragen

Was ermöglicht der neue Parameter max_tokens?
Er erlaubt es, die Länge der Ausgabe des Advisor-Modells pro Aufruf zu begrenzen, wodurch Latenz und Kosten für Aufgaben sinken, die keine langen Antworten benötigen.
Wird eine von Claude abgelehnte Anfrage berechnet?
Nein. Anfragen, die stop_reason refusal ohne jegliche erzeugte Ausgabe zurückgeben, werden auf der Claude-API nicht mehr berechnet.

📬 KI-News in dein Postfach

Ein täglicher Digest nach deinen Regeln — Themen, Quellen und Rhythmus wählbar. Abmeldung mit einem Klick.