Compaction

Compaction ist englisch für Verdichtung. Gemeint ist ein Aufräumvorgang: Ein Programm nimmt viele angesammelte Daten und ersetzt sie durch eine kürzere Fassung, die dasselbe aussagt. Alles, was doppelt, veraltet oder unwichtig ist, fliegt dabei raus. Man kann sich das wie ein Mitschrift-Heft vorstellen. Nach zehn Unterrichtsstunden schreibt man eine Zusammenfassung auf zwei Seiten und legt die losen Zettel weg. Der Begriff stammt ursprünglich aus der Speichertechnik, wird heute aber genauso für KI-Chatprogramme verwendet.

Warum Systeme irgendwann an ihrem eigenen Ballast ersticken

Jedes System, das laufend Daten dazuschreibt, hat ein Wachstumsproblem. Speicherplatz ist begrenzt, und das Durchsuchen großer Datenmengen wird mit jedem Eintrag langsamer. Ohne Verdichtung wird ein Dienst also mit der Zeit teurer und träger, obwohl er nichts Neues kann.

Bei Sprach-KIs kommt eine harte Grenze dazu: das Kontextfenster. So nennt man die Menge an Text, die ein Modell gleichzeitig überblicken kann. Diese Grenze liegt je nach Modell bei einigen tausend bis einigen hunderttausend Textbausteinen. Ist sie erreicht, kann das Modell nicht einfach weitermachen. Entweder das Gespräch bricht ab, oder der Anfang fällt ersatzlos weg.

Es geht außerdem um Geld. Bei den meisten KI-Anbietern zahlt man pro verarbeitetem Textbaustein. Wird bei jeder neuen Frage das komplette bisherige Gespräch mitgeschickt, steigen die Kosten mit jeder Runde. Eine gute Verdichtung senkt diese Rechnung deutlich, ohne dass der Nutzer etwas davon merkt.

Vom Datenberg zur Kurzfassung

In Datenbanken läuft Compaction meistens so: Änderungen werden zunächst nur hinten angehängt, nie mitten im Bestand überschrieben. Das ist schnell, erzeugt aber viele überholte Versionen desselben Eintrags. Ein Hintergrundprozess geht später alle Dateien durch und behält pro Eintrag nur den aktuellsten Stand. Gelöschte Datensätze verschwinden bei diesem Durchlauf endgültig.

Bei KI-Assistenten übernimmt das Sprachmodell selbst die Arbeit. Nähert sich das Gespräch der Grenze, wird der ältere Teil an das Modell geschickt, mit der Anweisung, ihn zusammenzufassen. Das Ergebnis ersetzt den alten Verlauf. Wichtige Festlegungen bleiben erhalten, etwa welche Programmiersprache verwendet wird oder wie der Nutzer heißt. Der genaue Wortlaut alter Nachrichten ist danach weg.

Genau hier liegt der Haken. Eine Verdichtung ist immer eine Entscheidung darüber, was unwichtig ist, und die kann falsch sein. Ein Detail, das erst zwanzig Nachrichten später zählt, ist nach der Verdichtung nicht mehr abrufbar. Viele Nutzer erleben das als plötzliche Vergesslichkeit des Assistenten mitten im Gespräch. Verwechseln sollte man Compaction deshalb nicht mit Kompression: Kompression lässt sich rückgängig machen, Verdichtung wirft Information endgültig weg.

Wo der Begriff in Produkten und Meldungen auftaucht

Am sichtbarsten ist Compaction in KI-Programmierwerkzeugen. Assistenten wie Claude Code oder Cursor zeigen einen Hinweis, wenn sie den bisherigen Verlauf eindampfen. Manche bieten den Vorgang auch als Befehl an, den man selbst auslösen kann. Wer viel damit arbeitet, lernt schnell, wichtige Vorgaben nach einer Verdichtung noch einmal zu wiederholen.

Im Hintergrund vieler Onlinedienste läuft dieselbe Technik unbemerkt. Datenbanken wie Cassandra, RocksDB oder LevelDB verdichten ihre Dateien regelmäßig, und Messenger-Systeme wie Kafka räumen alte Nachrichtenströme auf diese Weise auf. In technischen Berichten nach einem Ausfall steht Compaction öfter als Ursache: Der Aufräumprozess frisst kurzzeitig so viel Rechenleistung, dass die eigentlichen Anfragen langsamer werden.

Für Anleger und Beobachter der Branche ist der Begriff aus einem anderen Grund interessant. Er zeigt, dass große Kontextfenster allein das Gedächtnisproblem nicht lösen. Solange Modelle Text nur begrenzt überblicken können, bleibt Verdichtung ein zentraler Hebel für Kosten und Qualität von KI-Produkten.