Schema: Nutzerfrage geht an das Sprachmodell; parallel prüft ein Speichermechanismus die Aussagen, schreibt kurze Notizen in eine externe Datenbank und lädt vor jeder Antwort passende Notizen zurück ins Kontextfenster.

Persistent Conversational Memory

Persistent Conversational Memory bezeichnet die Fähigkeit eines Chatprogramms, sich Informationen aus früheren Unterhaltungen dauerhaft zu merken. Statt bei jedem Gespräch bei null anzufangen, greift das Programm auf gespeicherte Notizen über den Nutzer zurück.

Die meisten Chatprogramme, die auf künstlicher Intelligenz beruhen, vergessen nach dem Schließen des Fensters alles. Man erzählt ihnen, dass man Vegetarier ist, und am nächsten Tag ist diese Information verschwunden. Persistent Conversational Memory beschreibt die Gegenlösung: Das Programm legt ausgewählte Informationen dauerhaft in einem Speicher ab. Beim nächsten Gespräch holt es diese Notizen wieder hervor und nutzt sie. Das Wort persistent bedeutet hier schlicht dauerhaft, also über eine einzelne Sitzung hinaus bestehend. Aus einem Werkzeug, das jedes Mal wieder ein Fremder ist, wird so ein Gegenüber mit Vorgeschichte.

Warum ein Chatbot ohne Gedächtnis schnell nervt

Ohne dauerhaften Speicher muss man bei jedem Gespräch dieselben Dinge neu erklären. Wer eine KI regelmäßig beim Programmieren nutzt, beschreibt immer wieder das eigene Projekt. Wer sie zum Schreiben nutzt, wiederholt jedes Mal den gewünschten Stil. Das kostet Zeit und erzeugt Frust.

Für die Anbieter geht es um mehr als Bequemlichkeit. Ein System, das den Nutzer kennt, gibt bessere Antworten und wird deshalb häufiger genutzt. Gleichzeitig entsteht ein Wechselhindernis: Wer bei einem Anbieter zwei Jahre Gesprächsgeschichte angesammelt hat, wechselt nicht leichtfertig zur Konkurrenz. Dieses Gedächtnis ist damit auch ein wirtschaftliches Argument, nicht nur ein technisches.

Die Kehrseite liegt auf der Hand. Ein Programm, das sich dauerhaft Dinge über Menschen merkt, sammelt persönliche Daten. Falsch gemerkte Informationen können sich außerdem festsetzen und über Monate falsche Antworten erzeugen. Deshalb verlangen Datenschutzregeln wie die europäische Datenschutz-Grundverordnung, dass Nutzer solche Speicher einsehen und löschen können.

Vom Kontextfenster zur externen Notizsammlung

Ein Sprachmodell verarbeitet pro Anfrage nur eine begrenzte Menge Text. Diesen Arbeitsbereich nennt man Kontextfenster. Er ist wie ein Schreibtisch: Was darauf liegt, kann das Modell sehen, alles andere existiert für es nicht. Das Kontextfenster ist aber flüchtig und nach dem Gespräch leer. Echtes dauerhaftes Gedächtnis muss deshalb außerhalb des Modells liegen.

Üblich ist eine externe Datenbank. Während des Gesprächs entscheidet ein zusätzlicher Mechanismus, welche Aussagen merkenswert sind. Aus dem Satz über das vegetarische Essen wird ein kurzer Eintrag wie „Nutzer isst kein Fleisch“. Solche Einträge werden oft als Zahlenvektoren gespeichert, die inhaltliche Ähnlichkeit abbilden. Ähnliche Aussagen liegen dann im Speicher nahe beieinander und lassen sich gemeinsam finden.

Vor jeder neuen Antwort sucht das System passende Einträge heraus. Diese werden unsichtbar an die Frage angehängt und mit ins Kontextfenster gelegt. Das Modell selbst hat sich also nichts gemerkt, es bekommt nur gute Notizen vorgelegt. Man verwechselt das leicht mit Training: Beim Training ändern sich die inneren Werte des Modells, hier bleibt das Modell unverändert. Genau deshalb lässt sich ein solcher Speicher auch vollständig löschen.

Gedächtnisfunktionen in heutigen Assistenten

Die großen Chatdienste haben solche Funktionen inzwischen eingebaut. Bei ChatGPT heißt sie schlicht Memory, vergleichbare Ansätze gibt es bei Gemini und Claude. Oft erscheint beim Speichern ein kurzer Hinweis wie „Erinnerung aktualisiert“. In den Einstellungen lässt sich die Liste der gespeicherten Punkte meist ansehen und einzeln löschen.

Auch außerhalb von Chatfenstern taucht das Prinzip auf. Programmierwerkzeuge merken sich die Struktur eines Projekts. Kundendienst-Systeme erinnern sich an frühere Beschwerden eines Kunden. In Unternehmen wird daraus ein Verkaufsargument, weil Mitarbeiter nicht bei jeder Anfrage von vorn beginnen müssen.

In Nachrichten über KI begegnet der Begriff meist in zwei Zusammenhängen. Entweder feiern Anbieter längere Gedächtnisse als Fortschritt zu persönlicheren Assistenten. Oder Datenschützer kritisieren, dass Nutzer den Überblick über gespeicherte Angaben verlieren. Ein nützlicher Reflex ist deshalb, in den Einstellungen nachzusehen, was ein Assistent über einen notiert hat.

Související produkty

Aktuální zprávy

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.