Google Research: Private KI-Modell-Analytik ohne Zugriff auf Nutzerdaten durch Zero-Trust-Aggregation und TEE

Google Research veröffentlichte Details eines privaten Analysesystems, das die grundlegende Herausforderung bei der Evaluierung von On-Device-KI-Modellen löst: Wie kann man die tatsächliche Leistung von Modellen auf Nutzergeräten erfahren, ohne dabei jemals auf private Nutzerdaten zuzugreifen?

Welches Problem löst die Zero-Trust-Aggregation?

Teams, die KI-Modelle entwickeln, die auf dem Gerät laufen (On-Device-KI — Modelle, die lokal auf dem Telefon oder Computer ausgeführt werden, ohne Daten in die Cloud zu senden), stehen bei der Evaluierung vor grundlegenden Fragen:

• Driften die Modellleistungsmetriken in der realen Nutzung?
• Gibt es versteckte Verzerrungen in bestimmten geografischen oder demografischen Kontexten?
• Wie hoch sind die tatsächlichen Fehlerquoten in freier Wildbahn (nicht in einer kontrollierten Testumgebung)?

Das Sammeln dieser Daten mit klassischen Methoden erfordert Zugriff auf Nutzerdaten. Zero-Trust-Aggregation löst dieses Dilemma: Aggregatstatistiken werden mit mathematischer Garantie gesammelt, ohne dass ein Zugriff auf individuelle Daten möglich ist.

Wie funktioniert das technische System?

Das System kombiniert zwei unabhängige Schutzschichten:

Gitterbasiertes kryptografisches Protokoll (Kryptografie basierend auf mathematischen Gittern — ein Bereich der post-quanten Kryptografie, der resistent gegen Quantencomputerangriffe ist): Das Gerät des Nutzers verschlüsselt lokale Daten so, dass der Server die Chiffretextwerte summieren (aggregieren) kann, aber die individuellen Daten keines einzelnen Nutzers rekonstruieren kann. Nur das Aggregat kann entschlüsselt werden.

Ein besonderer Vorteil: Das Protokoll unterstützt One-Shot-Senden — das Gerät sendet eine Nachricht und kann sich trennen. Standard-Protokolle für privates Summieren erfordern Kommunikation über mehrere Runden, was für mobile Geräte mit instabiler Verbindung unpraktisch ist.

TEE (Trusted Execution Environment — vertrauenswürdige Ausführungsumgebung): Ein spezieller isolierter Prozessorbereich, der Code in einem für den Rest des Systems unzugänglichen Speicher ausführt. Die TEE liefert einen kryptografischen Beweis (Attestierung), dass der Server tatsächlich den vorgesehenen Code ausführt — nicht einmal Googles eigenes Infrastrukturteam kann die Verarbeitungslogik ändern, ohne dass die Attestierung dies aufdeckt.

Anwendung in Android SafetyCore

Das System wurde konkret im Android System SafetyCore eingesetzt — einem Google-Systemdienst, der auf Android-9+-Geräten verfügbar ist. SafetyCore bietet private On-Device-Unterstützung für Android-Sicherheitsfunktionen, und Zero-Trust-Aggregation ermöglicht SafetyCore-Entwicklern:

• Die Genauigkeit von Klassifikatoren für schädliche Inhalte zu evaluieren
• Erkennungsfehler zu identifizieren
• Modelle auf Basis von Aggregatmetriken zu verbessern

All dies ohne jeglichen Zugriff auf die privaten Inhalte der Nutzer, deren Geräte an der Evaluierung teilnehmen.

Warum ist der Zwei-Schichten-Ansatz robuster als ein einschichtiger?

Die Autoren betonen den entscheidenden Vorteil der kombinierten Architektur: Die kryptografische Schicht bietet Schutz selbst wenn die TEE-Sicherheit versagt. Jede Schicht schützt die Privatsphäre der Nutzer unabhängig, was das System widerstandsfähiger gegen komplexe Angriffe macht, die eine Schicht kompromittieren könnten, aber nicht beide gleichzeitig. Die detaillierte Methodik ist in der kryptografischen Arbeit verfügbar, die im ACM-DL-Repository veröffentlicht wurde.