Anthropic: Advisor tool에 max_tokens 추가, 거부된 요청은 더 이상 과금 안 됨
Anthropic은 6월 2일 Claude API에 두 가지 변경 사항을 도입했다. Advisor tool은 이제 호출당 advisor 모델의 출력을 제한하는 max_tokens 파라미터를 지원하며, 생성된 출력 없이 stop_reason refusal을 반환하는 요청은 더 이상 과금되지 않는다.
이 기사는 AI가 1차 출처를 기반으로 생성했습니다.
Anthropic은 2026년 6월 2일 릴리스 노트에서, 개발팀의 비용과 지연 시간 제어를 개선하기 위한 두 가지 Claude API 변경 사항을 발표했다.
advisor tool의 새 max_tokens는 무엇을 가져오는가?
별도의 advisor 모델이 도구 사용 중 가이드를 제공하는 메커니즘인 advisor tool이 이제 max_tokens 파라미터를 지원한다. advisor tool 정의에서 tools[].max_tokens를 설정하면 호출별로 advisor 모델의 출력 길이를 제한할 수 있다. 이는 전체 길이의 응답이 필요 없는 워크플로에 유용한데, 지연 시간과 출력 토큰 비용을 모두 줄여주기 때문이다.
거부된 요청의 과금에서 무엇이 바뀌는가?
두 번째 변경은 과금과 관련된다. Claude API에서는 요청이 stop_reason: "refusal"을 반환하고 Claude가 아무런 출력도 생성하지 않은 경우, 더 이상 과금되지 않는다. 다시 말해, 모델이 텍스트 없이 안전상의 이유로 요청을 거부하면 그 호출은 청구에 포함되지 않는다. 이러한 거부를 감지하고 처리하는 방법에 대해 Anthropic은 streaming refusal 관련 문서를 안내한다.
이 변경들이 왜 중요한가?
두 변경 모두 작지만, Claude API 위에 애플리케이션을 구축하는 이들에게 실용적인 최적화다. advisor 모델 출력 제한은 에이전트 흐름에서 비용을 더 세밀하게 제어하게 해주며, 거부된 요청의 과금 폐지는 어차피 유용한 결과를 내지 않는 호출에 대한 비용을 없애준다.
자주 묻는 질문
- 새로운 max_tokens 파라미터는 무엇을 가능하게 하나요?
- 호출당 advisor 모델의 출력 길이를 제한할 수 있게 해, 긴 응답이 필요 없는 작업의 지연 시간과 비용을 줄여줍니다.
- Claude가 거부한 요청도 과금되나요?
- 아니요. Claude API에서 생성된 출력 없이 stop_reason refusal을 반환하는 요청은 더 이상 과금되지 않습니다.
📬 AI 뉴스를 받은편지함으로
나만의 방식으로 구성하는 일일 다이제스트 — 주제, 출처, 주기를 선택하세요. 원클릭 해지.