Active Memory
Active Memory bezeichnet den Teil eines KI-Systems, der Informationen während einer laufenden Aufgabe kurzfristig verfügbar hält – ähnlich wie ein Notizblock, auf den das Modell während des Denkens zugreift. Wie groß und wie flexibel dieser Speicher ist, entscheidet darüber, wie komplexe Aufgaben ein Modell bewältigen kann.
Wenn ein KI-Modell eine lange Aufgabe bearbeitet – zum Beispiel einen mehrseitigen Text zusammenfassen oder ein Gespräch über viele Nachrichten hinweg führen –, muss es sich zwischendurch an Dinge erinnern. Active Memory ist der Bereich, in dem genau das passiert: Er hält Informationen bereit, die das Modell in diesem Moment braucht. Man kann ihn sich wie einen Notizblock vorstellen, den man während einer Prüfung beschreibt und danach wegwirft. Nach der Aufgabe ist der Inhalt weg – er wird nicht dauerhaft gespeichert. Entscheidend ist, wie viel auf diesen Notizblock passt und wie schnell das Modell darauf zugreifen kann.
Warum die Größe des Active Memory über Können und Grenzen entscheidet
Ein Modell, dessen Active Memory klein ist, verliert bei längeren Aufgaben den Faden. Es kann zum Beispiel den Anfang eines langen Dokuments nicht mehr berücksichtigen, wenn es schon beim Ende angelangt ist. Das ist kein Fehler im Training, sondern eine technische Grenze: Der Speicher ist einfach voll.
In der Praxis wird dieser Speicher oft durch die sogenannte Kontextlänge beschränkt – also die maximale Menge an Text, die ein Modell auf einmal verarbeiten kann. Frühe Sprachmodelle schafften wenige Tausend Wörter. Neuere Modelle bewältigen inzwischen Hunderttausende von Wörtern, was etwa dem Umfang mehrerer Romane entspricht. Je größer der Active Memory, desto komplexer die Aufgaben, die ein Modell in einem Durchgang lösen kann.
Gleichzeitig kostet ein größerer Speicher mehr Rechenleistung. Jedes zusätzliche Wort im Active Memory muss das Modell mit allen anderen Wörtern in Beziehung setzen. Der Aufwand wächst deshalb nicht linear, sondern überproportional mit der Länge des Inhalts.
Wie Active Memory in modernen KI-Systemen umgesetzt wird
Bei großen Sprachmodellen – also KI-Systemen, die Text verarbeiten und erzeugen – ist der Active Memory eng mit dem sogenannten Kontext-Fenster verknüpft. Alles, was in diesem Fenster steht, ist für das Modell „sichtbar“ und kann in die Antwort einfließen. Was außerhalb liegt, existiert für das Modell in diesem Moment nicht.
Manche Systeme ergänzen diesen kurzfristigen Speicher durch externe Werkzeuge: Das Modell schreibt wichtige Zwischenergebnisse in eine Datenbank und ruft sie bei Bedarf wieder ab. So kann es auch mit Informationen arbeiten, die nicht ins Kontext-Fenster passen. Dieser Ansatz heißt oft Retrieval-Augmented Generation, kurz RAG. Der Active Memory bleibt dabei trotzdem der zentrale Arbeitsbereich – die Datenbank ist nur ein Hilfsmittel drumherum.
Es gibt auch Forschungsansätze, bei denen das Modell selbst entscheidet, welche Informationen es im Active Memory behält und welche es verwirft – ähnlich wie ein Mensch, der während eines langen Telefonats entscheidet, was er sich wirklich merken muss. Diese Methoden sind noch nicht Standard, werden aber intensiv untersucht.
Active Memory in Produkten und Schlagzeilen
Wer ChatGPT, Gemini oder ähnliche Chatbots nutzt, begegnet Active Memory bei jeder Unterhaltung. Wenn ein Chatbot nach vielen Nachrichten plötzlich vergisst, was am Anfang des Gesprächs gesagt wurde, ist das kein Zufall – das Kontext-Fenster war voll, und ältere Nachrichten wurden verdrängt. Einige Dienste zeigen sogar explizit an, wie viel des verfügbaren Speichers schon belegt ist.
In Tech-News taucht der Begriff häufig auf, wenn neue Modelle mit rekordverdächtigen Kontextlängen vorgestellt werden. Googles Gemini 1.5 Pro etwa wurde 2024 damit beworben, bis zu einer Million sogenannter Tokens – grob gesagt: Wortfragmente – gleichzeitig verarbeiten zu können. Das entspricht etwa 700.000 Wörtern. Solche Zahlen sind direkt Aussagen über die Größe des Active Memory.
Auch in der Unternehmensanwendung ist das Thema relevant. Firmen, die KI zur Analyse langer Verträge oder zur Auswertung von Protokollen einsetzen, müssen wissen, wie viel Text ein Modell auf einmal aufnehmen kann. Ist ein Dokument länger als der Active Memory, muss es aufgeteilt werden – was die Qualität der Analyse beeinflussen kann.