Kontrastive Paare

Computerprogramme, die aus Beispielen lernen, brauchen eine Vorstellung davon, was richtig und was falsch ist. Bei kontrastiven Paaren bekommt so ein Programm zwei Dinge gleichzeitig vorgelegt. Das eine ist die erwünschte Version, das andere eine sehr ähnliche, aber schlechtere Version. Beide unterscheiden sich möglichst nur in dem Punkt, auf den es ankommt. Genau dieser Unterschied ist die eigentliche Lehrinformation. Man sagt dem Programm also nicht nur „so ist es gut“, sondern auch „so ähnlich, aber eben nicht so“.

Warum der Vergleich mehr verrät als das Einzelbeispiel

Ein einzelnes gutes Beispiel ist mehrdeutig. Wenn ein Programm eine höfliche, korrekte Antwort sieht, weiß es nicht, welche Eigenschaft davon gemeint war. War es die Höflichkeit, die Länge, der Satzbau oder der Inhalt? Legt man daneben eine fast identische Antwort mit einem Sachfehler, wird die Botschaft eindeutig. Alles andere ist gleich, also kann nur der Fehler den Unterschied gemacht haben.

Deshalb sind kontrastive Paare besonders sparsam mit Daten. Man braucht weniger Beispiele für dasselbe Lernergebnis, weil jedes Paar eine schärfere Aussage macht. Das ist wichtig, weil das Bewerten von Beispielen oft von Menschen erledigt wird und teuer ist. Ein Mensch, der zwei Antworten vergleicht, ist außerdem verlässlicher als einer, der eine einzelne Antwort mit Punkten bewerten soll. Vergleiche fallen uns leichter als absolute Noten.

Ein typischer Irrtum: Das schlechte Beispiel eines Paares muss nicht unsinnig sein. Je näher es am guten liegt, desto lehrreicher ist es. Ein völlig absurdes Gegenbeispiel bringt kaum etwas, weil die Unterscheidung zu einfach ist. Fachleute sprechen bei besonders knappen Fällen von harten Negativbeispielen.

Wie ein Paar aufgebaut ist

Ein Paar besteht aus einem positiven und einem negativen Beispiel, oft zur gleichen Ausgangsfrage. Das Programm berechnet für beide eine Art Punktzahl, die ausdrückt, wie gut es sie findet. Beim Lernen wird es dann so verstellt, dass die Punktzahl des positiven Beispiels steigt und die des negativen sinkt. Wichtig ist nur der Abstand zwischen beiden Werten, nicht ihre absolute Höhe. Dieses Prinzip zieht sich durch sehr unterschiedliche Anwendungen.

Bei Bildern erzeugt man Paare oft automatisch. Man nimmt ein Foto, schneidet es zweimal unterschiedlich zu und färbt es leicht um. Diese zwei Varianten gelten als positives Paar, weil sie dasselbe Motiv zeigen. Ein Bild eines anderen Motivs dient als negatives Beispiel. So lernt das Programm, worauf es bei einem Motiv ankommt, ganz ohne beschriftete Daten.

Bei Sprachmodellen, also Programmen, die Texte schreiben, kommen die Paare meist von Menschen. Man lässt das Modell zwei Antworten erzeugen und fragt Testpersonen, welche besser ist. Aus tausenden solcher Entscheidungen entsteht ein Trainingssignal für das Verhalten des Modells. Verfahren wie das Lernen aus menschlichem Feedback bauen genau darauf auf.

Kontrastive Paare in Suche, Empfehlungen und Chatbots

Am häufigsten begegnet man dem Prinzip in Suchfunktionen. Damit eine Suche auch bei anderer Wortwahl funktioniert, muss das System erkennen, welche Texte inhaltlich zusammenpassen. Dafür trainiert man es mit Paaren aus Suchanfrage und passendem Dokument, dazu unpassende Dokumente als Gegenbeispiele. Dasselbe steckt hinter der Bildersuche und hinter Empfehlungen in Streamingdiensten.

Auch die Gesichtserkennung im Smartphone nutzt diese Idee. Zwei Aufnahmen derselben Person sollen ähnlich bewertet werden, Aufnahmen verschiedener Personen unterschiedlich. Das Gerät lernt also einen Abstandsbegriff für Gesichter, nicht eine Liste von Namen.

In Nachrichten über KI-Firmen taucht der Begriff meist im Zusammenhang mit dem Feinschliff von Chatbots auf. Wenn ein Unternehmen berichtet, sein Modell sei durch Nutzerbewertungen sicherer geworden, stecken dahinter fast immer kontrastive Paare. Sie sind damit eine der stillen Grundtechniken hinter vielen bekannten Produkten.