AWS: Smartsheet uštedio 3 milijarde tokena izgradnjom remote MCP servera s Bedrock i Neptune knowledge grafom

Što je MCP i zašto ga Smartsheet gradi na AWS-u?

MCP (Model Context Protocol) je standard koji AI agentima daje strukturiran pristup vanjskim alatima i podacima — umjesto da svaki AI asistent ima vlastiti, nekompatibilan konektor za svaku aplikaciju. Smartsheet je izgradio remote MCP server upravo na temelju tog standarda kako bi AI agentima omogućio siguran, governance-kontroliran pristup podacima iz radnih listova, projekata i portfelja. Arhitektura je u potpunosti hostana na AWS-u: Amazon Bedrock nosi AI sloj, dok AWS WAF i Shield štite server od zloupotrebe na rubu mreže.

Kako izgleda tehnička arhitektura u pozadini?

Server radi na AWS Fargateu, serverless kontejnerskoj platformi koja eliminira potrebu za ručnim upravljanjem serverima. Amazon Kinesis u kombinaciji s Apache Flinkom obrađuje podatkovne tokove u stvarnom vremenu, dok Amazon S3 služi kao skalabilna pohrana. Najzanimljiviji dio je Amazon Neptune graf-baza koja pokreće knowledge graph — strukturu koja povezuje entitete (retke, listove, korisnike, relacije) tako da AI agent može pratiti veze između podataka, a ne samo čitati izolirane tablice.

Koliko tokena štedi vlastiti serijalizacijski format?

Smartsheet je razvio vlastiti serijalizacijski format za odgovore MCP servera koji smanjuje broj tokena za 35 do 47% na data-heavy odgovorima, u usporedbi sa standardnim JSON serijalizacijskim formatom koji se uobičajeno koristi za razmjenu strukturiranih podataka s LLM-ovima. Ta razlika izravno prevodi u nižu cijenu i bržu obradu za svaki AI upit koji dohvaća veće količine redaka ili stupaca.

Koliki je stvarni učinak od lansiranja?

Od lansiranja servera Smartsheet je zabilježio više od 3 milijarde ušteđenih tokena — izravna posljedica optimiziranog formata primijenjenog na velik broj upita. Usvajanje je jednako upečatljivo: broj korisnika rastao je 87% tjedno u prva četiri tjedna nakon objave, što upućuje na brzu organsku adopciju unutar Smartsheetove korisničke baze bez potrebe za agresivnim marketingom.