Tool-Aufruf

Ein Chatprogramm wie ChatGPT erzeugt seine Antworten, indem es Wort für Wort das jeweils passendste nächste Wort schätzt. Das funktioniert erstaunlich gut für Texte, aber schlecht für exakte Fakten. Der aktuelle Aktienkurs oder das Ergebnis einer langen Division lassen sich nicht erraten. Deshalb hat man den Programmen beigebracht, Hilfsmittel zu benutzen. Sie geben dabei eine Anfrage an ein anderes Programm weiter und warten auf dessen Antwort. Genau dieser Vorgang heißt Tool-Aufruf, manchmal auch Function Calling.

Was Sprachmodelle allein nicht können

Ein Sprachmodell hat sein Wissen aus Texten gelernt, die vor einem bestimmten Stichtag geschrieben wurden. Alles danach kennt es nicht. Fragt man es nach dem heutigen Wetter, kann es nur raten. Ohne Hilfsmittel erfindet es dann oft eine plausibel klingende, aber falsche Antwort. Solche Fehler nennt man Halluzinationen.

Tool-Aufrufe schließen diese Lücke. Das Modell holt sich die Information dort, wo sie tatsächlich steht. Bei einer Rechenaufgabe übernimmt ein echter Rechner die Arbeit, und das Ergebnis stimmt. Bei einer Frage zum Firmenumsatz durchsucht ein Suchwerkzeug die Datenbank des Unternehmens. Das Modell bleibt zuständig für Sprache und Planung, nicht für Fakten.

Wirtschaftlich ist das der entscheidende Schritt vom Chatbot zum sogenannten Agenten. Ein Agent ist ein KI-Programm, das nicht nur redet, sondern Aufgaben erledigt: Termine eintragen, Bestellungen auslösen, Code ausführen. Ohne Tool-Aufrufe wäre davon nichts möglich. Deshalb tauchen sie in fast jeder Produktankündigung großer KI-Anbieter auf.

Der Ablauf zwischen Modell und Werkzeug

Zu Beginn bekommt das Modell eine Liste der verfügbaren Werkzeuge. Zu jedem steht eine kurze Beschreibung und welche Angaben es braucht. Ein Wetterwerkzeug verlangt zum Beispiel einen Ort und ein Datum. Diese Liste ist Teil der Anweisung, die das Modell vor der eigentlichen Frage erhält.

Kommt nun eine passende Frage, antwortet das Modell nicht mit Text. Stattdessen gibt es eine strukturierte Anweisung aus, etwa: Werkzeug « Wetter », Ort « Hamburg », Datum « morgen ». Wichtig ist: Das Modell führt nichts selbst aus. Es formuliert nur den Wunsch. Ausgeführt wird er von der Software drumherum, oft Framework oder Runtime genannt.

Das Ergebnis wandert danach zurück in das Gespräch, so als hätte es jemand nachgereicht. Das Modell liest es und formuliert daraus eine normale Antwort. Dieser Kreislauf kann sich mehrfach wiederholen, wenn eine Aufgabe mehrere Schritte braucht. Ein Vergleich: Das Modell ist der Kellner, der Bestellungen aufnimmt und weitergibt. Gekocht wird in der Küche, also im Werkzeug.

Tool-Aufrufe in Produkten und Schlagzeilen

Wer einen Chatbot nach aktuellen Nachrichten fragt und einen Hinweis wie « Suche im Web » sieht, beobachtet einen Tool-Aufruf. Dasselbe passiert, wenn ein Programm eine hochgeladene Tabelle auswertet oder ein Diagramm zeichnet. Auch Programmierassistenten arbeiten so: Sie starten Tests, lesen Dateien und öffnen Fehlermeldungen.

In Firmen werden Tool-Aufrufe an interne Systeme angeschlossen, etwa an die Kundendatenbank oder das Lagersystem. Damit sich nicht jeder Anbieter eine eigene Schnittstelle ausdenkt, entstehen Standards. Der bekannteste heißt Model Context Protocol, kurz MCP. Er beschreibt, wie Werkzeuge sich einem Modell einheitlich vorstellen.

Ein verbreiteter Irrtum ist, dass Tool-Aufrufe Fehler ausschließen. Das Modell kann das falsche Werkzeug wählen oder falsche Angaben einsetzen. Auch die Frage der Sicherheit bleibt offen: Ein Werkzeug, das E-Mails verschicken oder Geld überweisen darf, ist gefährlich, wenn es durch versteckte Anweisungen in einem Text missbraucht wird. Deshalb verlangen viele Systeme vor heiklen Schritten eine ausdrückliche Bestätigung durch den Menschen.