Microsoft Research: LLM-ovi kvare dokumente kroz iterativno delegiranje — 19-34 % fidelity degradacija u 20 iteracija

Microsoft Research tim Philippe Laban, Tobias Schnabel i Jennifer Neville objavili su 15. svibnja 2026. blog post “Further Notes on Our Recent Research on AI Delegation and Long-Horizon Reliability” — follow-up na njihov originalni paper koji je dramatično signalizirao ozbiljnu pouzdanostnu praznoću u suvremenim agentnim sustavima.

Što originalni paper otkrio?

Originalni rad “LLMs Corrupt Your Documents When You Delegate” demonstrirao je da iterativno delegiranje editiranja dokumenata kvari sadržaj kroz uzastopne AI iteracije. Tim je mjerio fidelity score — koliko se kvaliteta, točnost i koherentnost dokumenta očuvaju kroz delegiranje cikluse — i otkrio da modeli sustavno gube informaciju kroz iteracije, čak i kad svaka pojedinačna iteracija izgleda razumno.

Koje brojke paper konkretno daje?

Kroz 20 iteracija delegiranja, fidelity degradacija doseže 19-34 % ovisno o tipu zadatka i konkretnom modelu. Brojka je značajna jer pretvara problem iz “ponekad model napravi grešku” u “sistemski degradacijski signal koji se kumulira eksponencijalno”. Nakon 20 iteracija dokument više nije pouzdana reprezentacija originalnog content-a — što je upravo broj iteracija koji long-running agent workflowi tipično prelaze.

Što follow-up blog post razjašnjava?

Tim je objavio follow-up jer je originalni paper izazvao značajnu raspravu i autori su htjeli “clarify several important points about what the paper does—and does not—claim”. Blog post adresira:

• Generalnost problema — radi li ovo o specifičnom modelu ili sustavnoj klasi problema?
• Mitigation strategies — koji pristup pomaže smanjiti degradaciju?
• Implikacije za production agente — koji workflowi su najteže pogođeni?

Što ovaj nalaz znači za agentne workflowove?

Long-horizon agentni workflowi najteže su pogođeni. Tipični primjeri: research agenti koji generiraju, edituju i prosljeđuju draft-ove; multi-step document automation gdje pojedinačni dokument prolazi kroz desetke transformacija; kontinuirane summarization cycles gdje agent reducira veliki korpus kroz iterativno sažimanje.

Rad implicitno opovrgava popularnu predodžbu da je agent reliability problem rješiv samo kroz bolji model — degradacija pattern je dovoljno sustavan da sugerira potrebu za arhitektonskim solucijama: ground truth retention, periodic verification protiv originala, explicit revisional review pre nego što agent prosljedi.

Pristup nadovezuje se na 2026 tjedan dramatičnih safety/reliability papira — arXiv:2605.13825 History Anchors (14.5.), arXiv:2605.12474 Reward Hacking Rubric (13.5.), arXiv:2605.11882 FATE Safety (13.5.). Microsoft Research kombinacija s tim arXiv valom signalizira sazrijavanje agentic reliability research kao zasebnog discipline.