Apples Normalizing Trajectory Models erzeugen Bilder in vier Schritten mit exakter Likelihood

Das Problem der Few-Step-Generierung

Diffusionsbasierte Modelle zerlegen das Sampling in viele kleine gaußsche Entrauschungsschritte. Diese Annahme trage nicht mehr, wenn die Generierung auf wenige grobe Übergänge verdichtet werde, so die Autoren.

Bestehende Few-Step-Verfahren begegnen dem Problem mit Destillation, Consistency Training oder adversarialen Zielfunktionen. Laut der Veröffentlichung opfern sie dabei allesamt den Likelihood-Rahmen. NTM soll diesen Zielkonflikt vermeiden.

So funktioniert NTM

NTM modelliert jeden Rückwärtsschritt als ausdrucksstarken bedingten Normalizing Flow, der mit exakter Likelihood trainiert wird. Die Architektur kombiniert zwei Elemente:

• flache invertierbare Blöcke innerhalb jedes Schritts;
• einen tiefen, parallelen Prädiktor über die gesamte Trajektorie.

Zusammen bilden sie ein durchgängiges Netzwerk. Nach Angaben der Autoren lässt es sich von Grund auf trainieren oder aus vortrainierten Flow-Matching-Modellen initialisieren, sodass Forschende auf bestehenden Arbeiten aufbauen können.

Die exakte Likelihood der Trajektorie ermöglicht zudem Selbstdestillation. Ein leichtgewichtiger Denoiser wird auf der Score-Funktion trainiert, die das Modell selbst induziert, und liefert laut der Veröffentlichung in vier Schritten hochwertige Samples.

Ergebnisse und Einordnung

Bei Text-zu-Bild-Benchmarks erreiche oder übertreffe NTM "starke Baselines der Bilderzeugung in nur vier Sampling-Schritten" und behalte dabei "als einziges Verfahren die exakte Likelihood über die generative Trajektorie", schreiben die Autoren. Die konkreten Benchmarks und Baselines nennt die Quelle in ihrem Abstract nicht, ebenso wenig numerische Werte.

Die Arbeit stammt von Jiatao Gu, Tianrong Chen, Ying Shen, David Berthelot, Shuangfei Zhai und Josh Susskind. Gu ist an der University of Pennsylvania und Shen an der UIUC tätig; sie haben die Arbeit während ihrer Zeit bei Apple angefertigt. Veröffentlicht wurde sie im Oktober 2026, sie ist der Konferenz NeurIPS zugeordnet und den Forschungsbereichen Computer Vision sowie Methoden und Algorithmen zugeordnet.

Sie steht neben weiteren aktuellen Apple-Arbeiten zur likelihoodbasierten Generierung, etwa dem ICML-Paper vom Mai 2026 zu iterative TARFlow (iTARFlow), das Normalizing-Flow-Modelle als Alternative zu Diffusionsmodellen voranbringt.

Was das bedeutet

Für die Forschung deutet NTM darauf hin, dass sich schnelles Sampling und exakte Likelihood nicht ausschließen müssen. Verfahren, die Few-Step-Generierung durch den Verzicht auf die Likelihood erreichen, verlieren diese Eigenschaft, während NTM sie laut den Autoren über die gesamte generative Trajektorie bewahrt. Ob der Ansatz über die berichteten Benchmarks hinaus trägt und wie er kostenseitig im Vergleich zu etablierten Methoden abschneidet, lässt sich allein anhand des Abstracts nicht beurteilen.