Context Engine

Ein Chatprogramm wie ChatGPT kennt nur das, was in der Anfrage steht. Es hat keinen Zugriff auf deine Schulnotizen, die Mails deiner Firma oder die Preisliste eines Unternehmens. Eine Context Engine schließt genau diese Lücke. Sie ist ein Programmteil, der vor jeder Antwort in Dateien, Mails, Kalendern oder Datenbanken nachsieht und die passenden Ausschnitte heraussucht. Diese Ausschnitte hängt sie unsichtbar an die Frage des Nutzers an. Die KI beantwortet dann nicht nur die Frage, sondern die Frage samt mitgeliefertem Hintergrundwissen.

Warum Assistenten ohne Kontext nutzlos bleiben

Ein Sprachmodell wirkt beeindruckend, solange es um Allgemeinwissen geht. Im Arbeitsalltag geht es aber fast immer um Spezielles. Wie hoch war der Umsatz im März? Was haben wir dem Kunden letzte Woche zugesagt? Ohne Zugriff auf diese Daten kann das Modell nur raten. Und wenn es rät, klingt die falsche Antwort genauso überzeugend wie die richtige.

Deshalb hat sich in der Branche eine Erkenntnis durchgesetzt: Der Unterschied zwischen einem nützlichen und einem nutzlosen KI-Produkt liegt oft nicht im Modell. Er liegt in der Qualität des mitgelieferten Kontexts, also der Zusatzinformationen. Zwei Firmen können dasselbe Modell einkaufen. Wer die besseren eigenen Daten sauber zuliefert, hat das bessere Produkt.

Dazu kommt ein wirtschaftliches Argument. Ein Modell neu zu trainieren, damit es Firmenwissen kennt, kostet viel Geld und muss bei jeder Änderung wiederholt werden. Eine Context Engine holt die Information stattdessen im Moment der Anfrage. Ändert sich der Preis heute, antwortet der Assistent heute richtig.

Von der Frage zum fertigen Kontextpaket

Der erste Schritt ist die Vorbereitung. Dokumente werden in kleine Abschnitte zerlegt, meist ein paar Sätze lang. Jeder Abschnitt wird in eine lange Zahlenreihe umgerechnet, die seine Bedeutung beschreibt. Texte mit ähnlichem Inhalt bekommen ähnliche Zahlenreihen. Diese landen in einer speziellen Datenbank, die nach Ähnlichkeit suchen kann statt nach exakten Wörtern.

Stellt jemand eine Frage, wird auch sie in so eine Zahlenreihe umgerechnet. Die Datenbank liefert die Abschnitte mit der größten Ähnlichkeit zurück. Eine gute Context Engine hört hier aber nicht auf. Sie sortiert die Treffer noch einmal nach Nützlichkeit, wirft Dubletten weg und beachtet Zugriffsrechte. Ein Praktikant darf keine Gehaltsdaten in seinem Kontext finden.

Am Ende steht das Platzproblem. Jedes Modell hat ein Kontextfenster, also eine Obergrenze für die Textmenge pro Anfrage. Selbst große Fenster sind schnell voll, und zu viel Beifang verschlechtert die Antwort messbar. Die Engine muss deshalb kürzen und priorisieren. Genau diese Auswahlarbeit meint der verwandte Ausdruck Context Engineering.

Wo Context Engines schon im Einsatz sind

Am sichtbarsten ist die Technik in Programmierwerkzeugen. Assistenten wie GitHub Copilot oder Cursor lesen das geöffnete Projekt mit, bevor sie Code vorschlagen. Ähnlich arbeiten Microsoft 365 Copilot mit Mails und Dokumenten oder Glean als firmeninterne Suche. Auch die meisten Kundenservice-Bots auf Firmenwebseiten holen ihre Antworten aus einer Wissensdatenbank.

In Wirtschaftsnachrichten tauchen Context Engines meist unter anderen Namen auf. Häufig steht dort RAG, kurz für Retrieval Augmented Generation, also Antworten mit vorher nachgeschlagenen Quellen. Auch von Context Layer oder Memory ist die Rede, wenn ein Assistent sich an frühere Gespräche erinnert. Gemeint ist jedes Mal derselbe Grundgedanke.

Ein verbreiteter Irrtum lautet, eine Context Engine würde Fehler der KI vollständig verhindern. Das stimmt nicht. Sie senkt das Risiko erfundener Antworten deutlich, weil das Modell echte Quellen vor sich hat. Liefert die Suche aber veraltete oder falsche Dokumente, gibt das Modell diesen Fehler brav weiter.