Google Research: Privatna analitika AI modela bez pristupa korisničkim podacima kroz Zero-Trust agregaciju i TEE

Google Research objavio je detalje sustava privatne analitike koji rješava temeljni izazov evaluacije on-device AI modela: kako saznati stvarne performanse modela na korisničkim uređajima, a da se pritom nikad ne pristupi privatnim korisničkim podacima?

Koji problem rješava Zero-Trust agregacija?

Timovi koji razvijaju AI modele koji rade na uređaju (on-device AI — modeli koji se izvršavaju lokalno na telefonu ili računalu, bez slanja podataka u oblak) suočeni su s temeljnim pitanjima pri evaluaciji:

• Driftaju li performanse modela u realnoj primjeni?
• Postoje li skrivene pristranosti u specifičnim geografskim ili demografskim kontekstima?
• Kakve su stvarne stope grešaka u divljini (wild — ne u kontroliranom testnom okruženju)?

Prikupljanje ovih podataka klasičnim metodama zahtijeva pristup korisničkim podacima. Zero-Trust agregacija rješava tu dilemu: agregatne statistike prikupljaju se matematički garantirano bez mogućnosti pristupa individualnim podacima.

Kako funkcionira tehnički sustav?

Sustav kombinira dva neovisna sloja zaštite:

Lattice-based kriptografski protokol (kriptografija zasnovana na rešetkama — grana post-kvantne kriptografije otporna na napade kvantnih računala): korisnikov uređaj kriptira lokalne podatke na način da server može zbrajati (agregirati) ciphertext vrijednosti, ali ne može rekonstruirati individualne podatke ni jednog korisnika. Samo agregat može biti dekriptiran.

Posebna prednost: protokol podržava one-shot slanje — uređaj šalje jednu poruku i može se odspojiti. Standardni protokoli za privatno zbrajanje zahtijevaju višekružnu komunikaciju, što je nepraktično za mobilne uređaje.

TEE (Trusted Execution Environment — pouzdano izvršno okruženje): poseban izolirani procesorski prostor koji izvršava kod u memoriji nedostupnoj ostatku sustava. TEE pruža kriptografski dokaz (atestaciju) da server zaista izvršava namijenjeni kod — ni Google-ov vlastiti infrastrukturni tim ne može modificirati logiku obrade bez da atestacija to otkrije.

Primjena u Android SafetyCore

Sustav je konkretno primijenjen u Android System SafetyCore — Google-ovom sistemskom servisu dostupnom na Android 9+ uređajima. SafetyCore pruža privatnu on-device podršku za Android sigurnosne funkcije, a Zero-Trust agregacija omogućuje SafetyCore programerima da:

• Evaluiraju točnost klasifikatora štetnog sadržaja
• Identificiraju pogreške u detekciji
• Poboljšavaju modele na temelju agregatnih metrika

Sve to bez ikakvog pristupa privatnom sadržaju korisnika čiji uređaji sudjeluju u evaluaciji.

Zašto je dvoslojni pristup robusniji od jednoslojnog?

Autori naglašavaju ključnu prednost kombinirane arhitekture: kriptografski sloj pruža zaštitu čak i ako TEE sigurnost zakaže. Svaki sloj neovisno štiti privatnost korisnika, što sustav čini otpornijim na kompleksne napade koji bi mogli kompromitirati jedan od slojeva, ali ne i oba istovremeno. Detaljna metodologija dostupna je u kriptografskom radu objavljenom u ACM DL repozitoriju.