Google Research: Kreativität von Diffusionsmodellen als „Score-Glättung" erklärt

Was ist ein Diffusionsmodell und warum erzeugt es neue Bilder?

Ein Diffusionsmodell ist ein generatives Modell, das Daten durch schrittweise Rauschentfernung erzeugt — es beginnt mit zufälligem Rauschen und verfeinert es iterativ, geleitet von der Score-Funktion, einem Gradienten, der den Denoising-Prozess in Richtung wahrscheinlicher Daten lenkt. Forscher Zhengdao Chen von Google Research hat eine mathematische Erklärung veröffentlicht, warum diese Modelle Bilder generieren, die nicht im Trainingsdatensatz enthalten sind.

Regularisierung führt zur „Glättung”

Der Schlüsselmechanismus liegt darin, dass neuronale Netze nicht die exakte, sondern eine approximative und verschwommene Version der Score-Funktion erlernen — aufgrund von Regularisierung (Weight Decay), die eine Überanpassung verhindert. Chen nennt diesen Effekt „Score Smoothing” (Score-Glättung). Anstatt dass Denoising-Partikel exakt auf memorierte Trainingsbeispiele zusteuern, setzen sie sich in Interpolationszonen zwischen Trainingspunkten entlang des Datenmannigfaltigkeits nieder. Das Ergebnis sind neue, nicht memorierte Generierungen — Kombinationen von Merkmalen, die das Modell nie zusammen gesehen hat.

Hohe Dimensionen: Balance zwischen Realismus und Neuheit

In hohen Dimensionen, typisch für Bilder, wirkt die Glättung selektiv: Sie verlangsamt die Bewegung tangential zur Mannigfaltigkeit (entlang ihr), beschleunigt aber die Bewegung auf sie zu (senkrecht). Das bedeutet, dass das Modell „realistisch” bleibt, weil es der Datenmannigfaltigkeit folgt, aber Neuheit behält, weil es nicht zu bekannten Punkten konvergiert. Diese geometrische Balance zwischen Realismus und Originalität ist nicht explizit programmiert — sie entsteht als direkte Folge der Regularisierung beim Training.

Kreativität als vorhersagbares mathematisches Ergebnis

Chens Schlussfolgerung stellt die Mystifizierung generativer Modelle direkt in Frage: Die Kreativität von Diffusionsmodellen ist ein vorhersagbares mathematisches Ergebnis, keine zufällige emergente Erscheinung. Vergleicht man dies mit klassischer Interpolation im latenten Raum von GAN-Modellen — dort ist die Interpolation explizit, während Diffusionsmodelle denselben Effekt implizit durch Score-Glättung erzielen. Diese Erkenntnis eröffnet einen Weg zu präziserer Kontrolle der Kreativität: Durch Variation der Regularisierungsstärke könnte man modulieren, wie „weit” vom Trainingsdatensatz ein Modell generiert.