LangChain: Od token streama do agent streama — tipizirani kanali zamjenjuju klasično streamanje za multi-agent UI

LangChain je 21. svibnja 2026. objavio inženjerski post autora Christiana Bromanna i Nicka Hollona koji argumentira da je token streaming — paradigma koja je dominirala UX-om generativnih AI aplikacija od 2022. godine — došao do svojih granica i da ga treba zamijeniti tipiziranim agent streaming modelom. Post se objavljuje istovremeno s update LangGraph biblioteke koja implementira novi pristup.

Što je krenulo krivo s token streamingom?

Klasični token stream je jednostavan: model generira jedan token za drugim, frontend ih prikazuje incremental po dolasku, korisnik vidi tekst kako se gradi u realnom vremenu. To je radilo sjajno za ChatGPT-style aplikacije gdje je glavna aktivnost generiranje teksta.

Problem je što suvremeni AI agenti rade mnogo više od generiranja teksta. Tipičan agentic workflow uključuje:

• Pozivanje alata — agent odlučuje koji alat trebati pozvati (web search, file read, API call), čeka rezultat, pa nastavlja
• Sub-agent delegacija — glavni agent spawna sub-agente za paralelne podzadatke
• Stanje — agent ažurira interne strukture podataka (planovi, tracking liste, draft outputs)
• Human review pause — agent staje i čeka odobrenje korisnika prije nego što napravi sljedeći nepovratan korak
• Custom signali — debug logovi, progress updateovi, performance metrike

Token stream pokazuje samo tekst koji agent generira između tih aktivnosti. Korisnik u praksi vidi prazan prozor sa spinning loaderom, a agent radi minute ili sate u pozadini bez vidljivih signala. To je loš UX.

Što je tipizirani agent stream?

LangChain predlaže model gdje agent emit-uje različite tipove događaja kroz isti kanal, ali svaki događaj je tipiziran. Klijent (UI aplikacija) bira na koje tipove se pretplatiti i kako svaki tip prikazati.

Primjeri tipova:

• message — tekstualni token (klasično)
• tool_call — poziv alata s argumentima
• tool_result — rezultat poziva alata
• state_update — promjena u agent state
• subagent_event — događaj iz sub-agenta (rekurzivno)
• human_review_request — agent staje i traži approval
• custom — proizvoljni event tip definiran developer-om

Ovo daje UI sloju mogućnost prikazati agent rad kao multi-pane visualization — chat tekst u glavnom prozoru, tool calls u sidebaru, state u drugom panelu, sub-agent aktivnost kao tree visualization. Cursor i Claude Code već implementiraju varijante ovog pristupa interno; LangChain ga sada formalizira kao API.

Kako to djeluje u LangGraphu?

LangGraph — LangChain stateful graph orchestration biblioteka — dobiva native support za agent streams. Razvojni tim definira graph nodes, edges i state. Pri izvršavanju, LangGraph automatski emit-uje typed events za sve aktivnosti grafa.

Klijent se pretplaćuje koristeći standard async iterator pattern:

• Pretplata na sve eventove → tipičan dashboard mode
• Pretplata samo na message → klasični chat UI mode
• Pretplata na message + tool_call → koristan za debug UI

Ovo eliminira potrebu za custom WebSocket protokolima ili polling pattern-ima koji su do sada bili dominantni u agentic frontends.

Što ovo znači za ekosustav agentic AI alata?

Agent streams su arhitektonski step naprijed koji konvergira na pattern koji su Anthropic (Claude Code Agent View), OpenAI (Operator) i drugi već implementirali interno. Standardiziran API znači da će se manji developer timovi moći oslanjati na LangGraph umjesto da grade vlastite varijante od nule.

Dugoročno, agent streams mogu postati de facto standard kao što su REST API i SSE postali za web aplikacije. Vrijedi pratiti hoće li ostali agent frameworkovi (Microsoft AutoGen, CrewAI, OpenAI Swarm) usvojiti slične typed-event modele u nadolazećim verzijama.