Latenter Raum

Computer können nur mit Zahlen rechnen. Ein Programm, das Bilder oder Sätze verarbeiten soll, muss sie deshalb zuerst in Zahlenlisten umschreiben. Eine solche Liste kann zum Beispiel aus 512 Zahlen bestehen, die zusammen ein Foto beschreiben. Alle möglichen dieser Zahlenlisten bilden gemeinsam einen Raum, ähnlich wie alle Punkte auf einer Landkarte einen Raum bilden. Genau das nennt man den latenten Raum: eine Art Landkarte, auf der jeder Inhalt ein Punkt ist. „Latent“ heißt „verborgen“, denn diese Zahlen sieht man von außen nie.

Warum Nähe auf dieser Karte Bedeutung hat

Das Entscheidende ist nicht die Umwandlung selbst, sondern ihre Ordnung. Ein gut trainiertes Programm legt Fotos von Katzen alle in dieselbe Gegend der Karte. Hunde liegen daneben, Lastwagen weit weg. Damit wird eine schwierige Frage plötzlich einfach: statt Bilder Pixel für Pixel zu vergleichen, misst man nur den Abstand zwischen zwei Punkten.

Darauf beruhen viele Funktionen, die man täglich nutzt. Eine Bildsuche findet ähnliche Motive, indem sie nach benachbarten Punkten sucht. Eine Musik-App empfiehlt Songs, deren Punkte nahe an dem liegen, was du gerade gehört hast. Auch Übersetzungen profitieren davon: „Hund“ und „dog“ können im selben Raum fast denselben Punkt belegen.

Ein zweiter Vorteil ist die Größe. Ein Foto mit einer Million Pixeln lässt sich als Liste von wenigen hundert Zahlen darstellen. Das Programm muss dann deutlich weniger rechnen. Bei Bildgeneratoren ist genau das der Grund, warum sie auf normalen Grafikkarten überhaupt laufen.

Wie ein Modell diese Karte anlegt

Niemand legt die Koordinaten von Hand fest. Sie entstehen beim Training, also in der Lernphase, in der das Modell Millionen Beispiele durchrechnet. Ein typischer Aufbau besteht aus zwei Teilen: Ein Encoder presst das Bild in die kurze Zahlenliste, ein Decoder baut daraus wieder ein Bild. Am Anfang ist das Ergebnis Müll, und das Modell wird für jeden Fehler korrigiert.

Weil die Liste so kurz ist, kann das Modell nicht alles behalten. Es muss sich entscheiden, welche Information wichtig ist. Genau dieser Zwang erzeugt die Ordnung: Merkmale wie „Fell“, „vier Beine“ oder „Nacht“ lohnen sich zu speichern, die exakte Farbe jedes einzelnen Pixels nicht. Was am Ende wo liegt, ist ein Nebenprodukt des Trainings und für Menschen kaum lesbar.

Ein häufiger Irrtum ist, dass jede Zahl der Liste eine klare Bedeutung hätte, etwa „Alter“ oder „Helligkeit“. Meist ist die Bedeutung über viele Zahlen verteilt. Manchmal findet man aber Richtungen mit erkennbarem Effekt: Bewegt man einen Gesichtspunkt in eine bestimmte Richtung, wirkt das Gesicht älter. Solche Punkte lassen sich auch verrechnen, was zu Effekten wie „König minus Mann plus Frau ergibt Königin“ führt.

Latente Räume in Bildgeneratoren und Suchmaschinen

Am bekanntesten ist der Begriff durch Bildgeneratoren wie Stable Diffusion. Das Wort „latent“ steckt sogar im Fachnamen der Methode. Diese Programme malen nicht direkt Pixel, sondern erzeugen zuerst einen Punkt im latenten Raum. Erst danach übersetzt ein Decoder diesen Punkt in ein sichtbares Bild. Wenn ein Video langsam von einem Motiv in ein anderes übergeht, wandert im Hintergrund oft nur ein Punkt über die Karte.

In Firmen taucht der latente Raum unter dem Stichwort Vektordatenbank auf. Das ist ein Speicher, der solche Zahlenlisten sammelt und schnell die nächstgelegenen findet. Firmen legen dort ihre Handbücher und Support-Mails ab. Ein Chatbot sucht dann passende Textstellen und antwortet damit statt aus dem Gedächtnis.

In Nachrichtenmeldungen begegnet man meist der englischen Form „Latent Space“. Verwandt, aber nicht identisch, ist der Begriff Embedding: Das ist ein einzelner Punkt in diesem Raum, der latente Raum dagegen die Gesamtheit aller möglichen Punkte.