Grenzfall

Die meisten Situationen, mit denen ein Computerprogramm zu tun hat, sehen ähnlich aus. Ein Grenzfall ist genau das Gegenteil: eine seltene, ungewöhnliche Situation am Rand des Erwartbaren. Ein Beispiel: Ein Formular fragt nach dem Alter und erwartet Zahlen zwischen 1 und 120. Was passiert, wenn jemand 0 einträgt, ein Minuszeichen, oder das Wort « fünfzehn »? Solche Eingaben sind extrem selten, aber sie kommen vor. Und genau dort brechen Systeme oft zusammen, weil niemand an sie gedacht hat. Im englischen Fachjargon heißt der Grenzfall « Edge Case », was wörtlich « Kantenfall » bedeutet.

Warum die letzten Prozent so teuer sind

Bei KI-Systemen gilt eine unangenehme Regel: Die ersten 90 Prozent sind schnell erledigt, die letzten 10 Prozent kosten den Großteil der Arbeit. Der Grund sind Grenzfälle. Ein Bilderkennungssystem erkennt Hunde bei Tageslicht fast fehlerfrei. Bei Nebel, hinter einer Glasscheibe oder auf einem Kostüm wird es unsicher. Diese Fälle einzeln zu beheben, ist mühsam, weil es unendlich viele davon gibt.

Deshalb sind selbstfahrende Autos seit über zehn Jahren « fast fertig ». Eine normale Autobahnfahrt beherrschen sie längst. Ein umgekippter Lastwagen, eine Baustellenampel mit Handzeichen oder ein Reh im Gegenlicht sind Grenzfälle. Weil ein Fehler hier Menschenleben kostet, reicht « meistens richtig » nicht aus.

Für Unternehmen ist das auch eine Frage des Geldes. Ein Chatbot, der 99 von 100 Kundenanfragen löst, klingt gut. Bei einer Million Anfragen pro Monat sind das aber 10.000 verärgerte Kunden. Die Beschwerden landen dann doch bei Menschen, und die Ersparnis schrumpft.

Wie Entwickler nach den Ausnahmen suchen

Der erste Schritt ist systematisches Testen. Entwickler probieren bewusst extreme Werte aus: leere Eingaben, sehr lange Texte, Sonderzeichen, Sprachen mit anderen Schriftzeichen. Bei KI-Modellen nennt man das aggressive Testen auch Red Teaming: Ein Team versucht absichtlich, das System zu Fehlern oder unerwünschten Antworten zu verleiten.

Der zweite Weg führt über echte Daten. Wer ein System im Einsatz hat, sammelt die Fälle, in denen es unsicher war oder Nutzer sich beschwert haben. Diese Fälle werden ausgewertet und in die nächsten Trainingsdaten aufgenommen. So lernt das Modell aus seinen eigenen Fehlern, allerdings immer erst nachträglich.

Ein häufiger Irrtum lautet: Mehr Daten lösen das Problem von allein. Das stimmt nur teilweise. Wenn man einfach mehr vom Gleichen sammelt, wächst vor allem der Anteil der normalen Fälle. Grenzfälle sind ja gerade selten. Deshalb werden sie oft gezielt gesucht, künstlich erzeugt oder in Simulationen nachgebaut.

Grenzfälle in Produkten und Schlagzeilen

In Meldungen über KI stecken Grenzfälle fast immer im Kern der Geschichte. Wenn ein Sprachmodell eine erfundene Quelle nennt, ein Übersetzer bei einem Dialekt scheitert oder eine Gesichtserkennung bei dunkler Haut schlechter funktioniert, geht es um Fälle, die in den Trainingsdaten unterrepräsentiert waren. Der Vorwurf lautet dann oft, ein Produkt sei zu früh veröffentlicht worden.

Auch in Werbeversprechen begegnet man dem Thema, meist versteckt. Angaben wie « 98 Prozent Genauigkeit » sagen nichts darüber, welche zwei Prozent falsch sind. Sind es harmlose Verwechslungen oder ausgerechnet die kritischen Fälle? Eine sinnvolle Frage an jeden Anbieter ist deshalb: Woran scheitert Ihr System, und was passiert dann?

Abgrenzen sollte man den Grenzfall vom einfachen Bug. Ein Bug ist ein Programmierfehler, der behoben werden kann. Ein Grenzfall ist eine Situation, die niemand vorhergesehen hat. Beides führt zu Fehlern, aber der Umgang ist unterschiedlich: Bugs repariert man, Grenzfälle muss man erst einmal finden.