State
Der State ist alles, was ein Programm sich über bereits Geschehenes merkt, während es läuft. Ob ein System einen State hat oder nicht, entscheidet darüber, ob es aus einer Folge von Anfragen einen Zusammenhang bilden kann.
State bedeutet auf Deutsch schlicht Zustand. Gemeint ist alles, was ein laufendes Programm sich über das bereits Geschehene merkt. Ein Warenkorb in einem Onlineshop ist ein gutes Beispiel: Er weiß, welche Artikel du vorhin angeklickt hast. Ohne diesen gemerkten Zustand wäre jeder Klick ein Neuanfang. Programme, die sich etwas merken, nennt man zustandsbehaftet oder mit dem englischen Wort stateful. Programme ohne Gedächtnis heißen zustandslos oder stateless.
Warum ein Chatbot ohne Zustand nur ein Taschenrechner wäre
Der Unterschied zwischen stateful und stateless entscheidet, was ein System überhaupt leisten kann. Ein zustandsloses System behandelt jede Anfrage isoliert. Es ist wie ein Taschenrechner: Du gibst etwas ein, bekommst ein Ergebnis, und danach ist alles vergessen. Für viele Aufgaben reicht das völlig aus.
Sobald aber mehrere Schritte zusammengehören, braucht es einen Zustand. Ein Chat funktioniert nur, wenn das System weiß, worüber ihr zwei Sätze vorher geredet habt. Frage: « Und wie alt ist er? » ergibt allein keinen Sinn. Erst der gespeicherte Verlauf macht daraus eine sinnvolle Frage. Genau deshalb ist State ein zentrales Thema bei KI-Assistenten.
Zustand hat aber auch einen Preis. Wer sich etwas merkt, muss es irgendwo speichern und schützen. Zustandslose Systeme lassen sich dagegen leicht vervielfachen: Man startet einfach zehn identische Kopien, und es ist egal, welche davon deine Anfrage bearbeitet. Bei zustandsbehafteten Systemen geht das nicht so einfach, weil jede Kopie andere Dinge weiß.
Wo die Erinnerung tatsächlich liegt
Technisch kann der Zustand an sehr verschiedenen Orten liegen. Im Arbeitsspeicher des Programms ist er am schnellsten verfügbar, verschwindet aber beim Neustart. In einer Datenbank überlebt er auch einen Absturz, ist dafür langsamer abrufbar. Viele Systeme kombinieren beides.
Bei Sprachmodellen ist die Lage besonders interessant. Das Modell selbst ist im Kern zustandslos. Es bekommt einen Text und sagt das nächste Wort voraus, mehr nicht. Das Gedächtnis entsteht außen herum: Die Software schickt bei jeder Anfrage den bisherigen Gesprächsverlauf noch einmal mit. Dieser mitgeschickte Text heißt Kontextfenster.
Ein verbreiteter Irrtum ist deshalb, das Modell würde sich an dich erinnern. Tatsächlich liest es das Protokoll jedes Mal neu von vorne. Ist das Kontextfenster voll, fällt der Anfang des Gesprächs weg. Genau das erlebst du, wenn ein Chatbot nach langer Unterhaltung plötzlich frühere Details vergisst.
Vom Speicherstand bis zum KI-Agenten
Im Alltag begegnet dir State ständig, meist ohne den Namen. Der Speicherstand in einem Videospiel ist ein Zustand. Das Cookie, das dich auf einer Website eingeloggt hält, ebenso. Auch der Verlauf in einer Musik-App gehört dazu. Immer geht es um dieselbe Frage: Was weiß das System noch von vorhin?
In Tech-News taucht der Begriff besonders bei sogenannten KI-Agenten auf. Das sind Programme, die eine Aufgabe über viele Schritte hinweg selbstständig abarbeiten. Ein solcher Agent muss festhalten, welche Schritte schon erledigt sind und was dabei herauskam. Dieser Arbeitszustand ist oft die schwierigste Stelle im ganzen System.
Abzugrenzen ist State von den Modellgewichten, also den Zahlen, die beim Training gelernt wurden. Die Gewichte sind langfristiges Wissen und ändern sich im Betrieb nicht. Der State ist dagegen kurzfristig und gehört zu genau einer laufenden Sitzung. Beendest du den Chat, ist er in der Regel weg, während das Modell unverändert bleibt.