Nicht-deterministisches System

Ein Taschenrechner ist berechenbar: 7 mal 8 ergibt immer 56, heute wie morgen. Solche Systeme nennt man deterministisch, weil die Eingabe das Ergebnis vollständig festlegt. Ein nicht-deterministisches System verhält sich anders. Es kann bei genau derselben Eingabe unterschiedliche Ergebnisse ausgeben, ohne dass ein Fehler vorliegt. Die Schwankung gehört zur Bauweise dazu und ist gewollt oder zumindest in Kauf genommen. Viele KI-Programme, die Texte oder Bilder erzeugen, arbeiten genau so.

Warum Software plötzlich nicht mehr reproduzierbar ist

Klassische Software wurde jahrzehntelang nach einem festen Versprechen gebaut: Gleiche Eingabe, gleiches Ergebnis. Darauf beruht das Testen. Man führt ein Programm mit einer bekannten Eingabe aus und vergleicht die Ausgabe mit dem erwarteten Wert. Stimmen beide überein, gilt der Test als bestanden. Bei einem nicht-deterministischen System funktioniert dieses Verfahren nicht mehr sauber.

Für Unternehmen ist das ein praktisches Problem. Eine Bank, die Kundenanfragen von einem Sprachmodell beantworten lässt, kann nicht garantieren, dass zwei Kunden mit derselben Frage exakt dieselbe Auskunft bekommen. Auch die Fehlersuche wird schwieriger. Wenn sich ein Fehler beim zweiten Versuch nicht wiederholt, lässt er sich kaum eingrenzen.

Ein häufiger Irrtum ist, Nicht-Determinismus mit Unzuverlässigkeit gleichzusetzen. Beides ist nicht dasselbe. Ein System kann in jeder einzelnen Antwort inhaltlich korrekt sein und trotzdem jedes Mal anders formulieren. Umgekehrt kann ein streng deterministisches Programm zuverlässig immer denselben Unsinn ausgeben.

Woher die Zufälligkeit im Modell kommt

Ein Sprachmodell schreibt Text Wort für Wort. Für die nächste Stelle berechnet es keine einzelne Lösung, sondern eine Liste von Kandidaten mit Wahrscheinlichkeiten. Nach „Die Hauptstadt von Frankreich ist“ könnte „Paris“ bei 97 Prozent liegen und ein paar andere Wörter beim Rest. Welches Wort tatsächlich genommen wird, entscheidet ein Zufallsziehen aus dieser Liste. Deshalb ist der zweite Durchlauf selten identisch mit dem ersten.

Wie stark gewürfelt wird, steuert ein Regler namens Temperatur. Bei Temperatur null wird immer der wahrscheinlichste Kandidat genommen, das Verhalten wird nahezu deterministisch. Bei hohen Werten greift das Modell öfter zu unwahrscheinlichen Wörtern, der Text wird kreativer und riskanter. Entwickler stellen den Regler je nach Zweck ein: niedrig für Datenauswertung, höher für Werbetexte.

Selbst bei Temperatur null bleibt oft ein Rest an Schwankung. Grafikkarten rechnen viele Teilergebnisse parallel und addieren sie in wechselnder Reihenfolge. Bei Kommazahlen führt das zu winzigen Abweichungen in den letzten Stellen. Liegen zwei Kandidaten dicht beieinander, kippt die Entscheidung dadurch manchmal um. Hinzu kommt, dass Anbieter ihre Modelle im Hintergrund aktualisieren.

Wo Schwankung stört und wo sie erwünscht ist

Im Alltag merkt man den Effekt sofort. Wer denselben Prompt zweimal in einen Chatbot tippt, bekommt zwei ähnliche, aber nicht gleiche Antworten. Bei Bildgeneratoren ist der Unterschied noch deutlicher: Dieselbe Beschreibung erzeugt völlig verschiedene Bilder. Manche Werkzeuge zeigen deshalb einen sogenannten Seed an, eine Startzahl für den Zufall. Gibt man denselben Seed erneut ein, lässt sich ein Ergebnis oft reproduzieren.

In der Wirtschaftspresse taucht der Begriff auf, wenn es um Regulierung und Haftung geht. Aufsichtsbehörden verlangen, dass automatisierte Entscheidungen nachvollziehbar sind. Bei Medizin, Kreditvergabe oder Behördenanträgen ist ein schwankendes System schwer zu rechtfertigen. Deshalb kombinieren Firmen KI-Modelle häufig mit festen Regeln, die das Ergebnis am Ende prüfen und begrenzen.

Umgekehrt ist die Streuung manchmal genau der Punkt. Wer zehn Vorschläge für einen Produktnamen braucht, will nicht zehnmal denselben. Auch beim Testen von Software hilft es, ein Modell mehrfach laufen zu lassen und die Antworten zu vergleichen. Weichen sie stark voneinander ab, ist das ein Hinweis auf eine unsichere Aufgabenstellung.