xAI: xai-sdk-python v1.15.0 dodaje model grok-build-0.1 i sažimanje konteksta

xAI je objavio novo izdanje svojeg službenog Python SDK-a za rad s modelima Grok, oznake v1.15.0. Izdanje donosi tri konkretne promjene, sve isporučene kroz zasebne pull requeste.

Koje su tri promjene u v1.15.0?

Izdanje sadrži tri stavke. Prva je dodavanje novog modela grok-build-0.1 u klasu ChatModel (PR #155). Druga je podrška za context compaction (PR #156). Treća je podizanje verzije paketa s 1.14.0 na 1.15.0 (PR #157). Sve tri promjene pripisane su istom doprinositelju, korisniku @shawnthapa.

Što donosi model grok-build-0.1?

Novi unos grok-build-0.1 postaje dostupan kroz klasu ChatModel, koja je standardno sučelje SDK-a za razgovorne pozive prema Grok modelima. Dodavanjem identifikatora modela u tu klasu, razvojni programeri mogu ciljati novu varijantu izravno iz koda bez ručnog zaobilaženja.

Što je sažimanje konteksta?

Context compaction, ili sažimanje konteksta, tehnika je koja smanjuje veličinu povijesti razgovora prije slanja modelu. Kontekstni prozor svakog modela ima ograničen broj tokena, pa duge sesije mogu probiti tu granicu. Sažimanjem se ranija razmjena komprimira ili skraćuje, čime se zadržava bit razgovora uz manju potrošnju tokena. Podrška za tu funkcionalnost dodana je u v1.15.0.

Zaključak

xai-sdk-python v1.15.0 je inkrementalno izdanje koje proširuje izbor modela i poboljšava upravljanje kontekstom. Za programere koji grade aplikacije na Grok modelima, najzanimljivije su dvije funkcionalne novosti: pristup modelu grok-build-0.1 i ugrađena podrška za sažimanje konteksta.