Agent Memory

Manche KI-Programme führen nicht nur ein einzelnes Gespräch, sondern erledigen mehrstufige Aufgaben selbstständig: Sie suchen im Internet, schreiben Code, verschicken E-Mails. Solche Programme nennt man Agenten. Ein Agent hat von sich aus jedoch ein sehr schlechtes Gedächtnis. Startet man ihn neu, weiß er nichts mehr von gestern. Agent Memory ist die Technik, die dieses Vergessen behebt. Sie speichert wichtige Informationen außerhalb des Programms und legt sie dem Agenten später wieder vor.

Warum Agenten ohne Gedächtnis unbrauchbar bleiben

Ein Sprachmodell verarbeitet immer nur den Text, den es gerade vorgelegt bekommt. Dieser Arbeitsbereich heißt Kontextfenster und ist begrenzt. Selbst große Modelle fassen nur einige hundert Seiten Text auf einmal. Ist das Fenster voll, muss Älteres verschwinden. Das ist bei einer kurzen Frage kein Problem. Bei einer Aufgabe über Wochen ist es fatal.

Stell dir einen Assistenten vor, der nach jedem Feierabend sein komplettes Notizbuch verbrennt. Am nächsten Morgen musst du ihm alles erneut erklären: deine Vorlieben, den Projektstand, die Fehler von gestern. Genau so verhalten sich Agenten ohne Speicher. Sie wiederholen dieselben Irrwege und stellen dieselben Fragen.

Es geht dabei auch um Geld. Jedes Zeichen, das ein Modell verarbeitet, kostet Rechenzeit. Wer bei jedem Start die ganze Projektgeschichte neu mitschickt, zahlt dafür jedes Mal. Ein gutes Gedächtnis wählt aus und schickt nur die zehn wirklich relevanten Sätze. Das ist billiger und oft sogar genauer, weil das Modell weniger Ballast durchsuchen muss.

Kurzzeitnotizen, Langzeitspeicher und Vektorsuche

Fachleute unterscheiden meist drei Arten von Gedächtnis. Das Kurzzeitgedächtnis ist der laufende Gesprächsverlauf im Kontextfenster. Das episodische Gedächtnis hält fest, was in früheren Sitzungen konkret passiert ist. Das semantische Gedächtnis speichert dauerhafte Fakten, etwa dass du in Berlin wohnst und Python bevorzugst.

Technisch landet das meiste in einer Datenbank außerhalb des Modells. Häufig ist es eine Vektordatenbank: Sie speichert Texte zusammen mit einer Zahlenreihe, die deren Bedeutung beschreibt. Ähnliche Bedeutungen erhalten ähnliche Zahlenreihen. Stellt der Agent eine neue Anfrage, sucht das System die inhaltlich passendsten Einträge und hängt sie an den Prompt an. Das Modell selbst lernt dabei nichts Neues, es bekommt nur bessere Unterlagen.

Der schwierigste Teil ist nicht das Speichern, sondern das Auswählen und Vergessen. Wenn alles gespeichert wird, findet die Suche irgendwann nur noch Rauschen. Deshalb fassen viele Systeme alte Verläufe zu kurzen Zusammenfassungen zusammen und löschen das Original. Ein typischer Fehler ist außerdem veraltetes Wissen: Steht im Speicher noch eine alte Adresse, verwendet der Agent sie hartnäckig weiter.

Von ChatGPT-Erinnerungen bis zum Support-Bot

Am bekanntesten ist die Memory-Funktion von Chatbots wie ChatGPT, Claude oder Gemini. Sie merken sich über Gespräche hinweg, wie man angesprochen werden will oder woran man arbeitet. In den Einstellungen kann man diese Einträge ansehen und löschen. Genau das ist Agent Memory in seiner einfachsten Form.

In Unternehmen steckt die Technik in Kundenservice-Systemen, die den Verlauf früherer Beschwerden kennen. Auch Programmierhilfen nutzen sie: Sie merken sich die Bauweise eines Projekts, statt jede Datei neu zu lesen. In Produktankündigungen und Börsennachrichten tauchen dafür Begriffe wie persistent memory oder stateful agents auf.

Mit dem Gedächtnis kommen Fragen zum Datenschutz. Ein Speicher, der Vorlieben, Gesundheitsdaten oder Firmengeheimnisse jahrelang aufbewahrt, ist ein attraktives Angriffsziel. Die europäische Datenschutzgrundverordnung verlangt zudem, dass Nutzer Daten löschen lassen können. Genau deshalb bieten seriöse Anbieter eine sichtbare Verwaltung des Gedächtnisses an, statt es unbemerkt im Hintergrund anzulegen.