Verifikation

Verifikation heißt: Man prüft, ob ein Ergebnis wirklich stimmt. Es geht nicht darum, wie gut oder plausibel es aussieht. Es geht um einen echten Nachweis. Ein Beispiel: Ein Programm behauptet, 4879 sei durch 7 teilbar. Man kann diese Behauptung in einer Sekunde nachrechnen und damit erledigen. Genau diese Trennung ist der Kern des Begriffs: Etwas herzustellen ist eine Aufgabe, es zu überprüfen eine andere. Häufig ist die Prüfung viel einfacher als die Herstellung.

Warum überzeugende Antworten trotzdem falsch sein können

Moderne Sprachprogramme wie ChatGPT sagen Wort für Wort voraus, was am wahrscheinlichsten als Nächstes passt. Sie erzeugen dadurch Texte, die flüssig und selbstsicher klingen. Ob der Inhalt zutrifft, prüfen sie dabei nicht. Erfundene Angaben dieser Art nennt man Halluzinationen. Für den Leser sind sie schwer zu erkennen, weil sie im gleichen souveränen Ton stehen wie richtige Aussagen.

Deshalb ist Verifikation die entscheidende Sicherung. Sie entscheidet, ob man ein KI-System in einem ernsten Bereich einsetzen darf. Bei einem Gedicht ist ein Fehler harmlos. Bei einer Medikamentendosis, einer Steuerberechnung oder dem Steuercode eines Fahrzeugs ist er es nicht. Unternehmen bauen daher fast immer eine Prüfstufe hinter das Modell, bevor eine Ausgabe irgendwohin weitergeleitet wird.

Verifikation ist auch wirtschaftlich wichtig geworden. Wo eine Antwort automatisch überprüfbar ist, spart man teure menschliche Kontrolle. Wo das nicht geht, braucht man Fachleute, die jede Ausgabe lesen. Das ist der Grund, warum KI in der Programmierung schneller Fuß gefasst hat als in der Rechtsberatung: Ein Programm lässt sich ausführen und testen, eine juristische Einschätzung nicht.

Von der Stichprobe bis zum mathematischen Beweis

Die einfachste Form ist der Test. Man gibt dem Ergebnis konkrete Beispiele und schaut, ob es sich richtig verhält. Bei Software heißt das: Man lässt den Code laufen und vergleicht die Ausgabe mit dem erwarteten Wert. Tests zeigen aber nur Fehler, die man auch getestet hat. Bestehen alle Tests, ist das ein gutes Zeichen, kein Beweis.

Strenger ist die formale Verifikation. Dabei beweist man mathematisch, dass ein Programm für alle möglichen Eingaben eine bestimmte Eigenschaft erfüllt. Spezielle Werkzeuge, sogenannte Beweisassistenten, prüfen jeden Schritt dieses Beweises mechanisch nach. Das ist aufwendig und wird vor allem dort genutzt, wo Fehler katastrophal wären, etwa in Chips, Flugzeugsteuerungen oder Verschlüsselung.

Dazwischen liegen praktische Mischformen. Man lässt eine KI ihre Antwort mit Quellen belegen und prüft die Quellen. Man lässt ein zweites Modell die Ausgabe des ersten kritisieren. Oder ein Mensch schaut über jeden Vorschlag, bevor er wirksam wird. Wichtig ist die Unterscheidung zur Validierung: Verifikation fragt, ob etwas korrekt gebaut ist, Validierung fragt, ob es überhaupt das Richtige löst.

Verifikation in Chatbots, Code und KI-Training

Im Alltag begegnet man ihr meist unsichtbar. Wenn ein Chatbot Links zu Webseiten anzeigt, ist das eine Einladung zur Verifikation: Man kann nachlesen, woher die Aussage kommt. Auch der Hinweis, dass Antworten Fehler enthalten können, gehört dazu. Er verschiebt die Prüfpflicht ausdrücklich zum Nutzer.

In der Softwareentwicklung ist die Prüfung fest eingebaut. Ein KI-Assistent schlägt Code vor, automatische Tests laufen darüber, und erst dann übernimmt ein Entwickler den Vorschlag. In den Nachrichten tauchen Verifikationsprobleme oft als Skandal auf, etwa wenn ein Anwalt erfundene Gerichtsurteile einreicht, weil er die Angaben des Modells nicht nachgeprüft hat.

Auch beim Training von KI spielt Verifikation inzwischen die Hauptrolle. Modelle üben bevorzugt an Mathematik- und Programmieraufgaben, weil dort jede Lösung maschinell als richtig oder falsch bewertet werden kann. Das Modell probiert viele Wege, ein Prüfprogramm gibt Rückmeldung, gute Wege werden verstärkt. Man nennt das Lernen mit überprüfbarer Belohnung. Es ist der Grund, warum die Rechenfähigkeiten neuer Modelle deutlich schneller gewachsen sind als ihre Zuverlässigkeit in Bereichen ohne klare Prüfbarkeit.