Feature-Entdeckung

Wenn ein Computerprogramm aus Beispielen lernen soll, muss es wissen, worauf es überhaupt achten soll. Bei einem Foto könnte das die Helligkeit sein, eine Kante, eine bestimmte Farbe oder die Form eines Umrisses. Solche einzelnen messbaren Eigenschaften nennt man in der Fachsprache Features, auf Deutsch Merkmale. Früher haben Menschen diese Merkmale mühsam von Hand festgelegt und programmiert. Feature-Entdeckung bedeutet, dass das Programm sie stattdessen selbst aus den Daten herausarbeitet. Niemand sagt ihm vorher, dass Kanten oder Farbverläufe nützlich sind — es findet das beim Üben an vielen Beispielen heraus.

Warum Handarbeit an Merkmalen zum Flaschenhals wurde

Bis etwa 2012 bestand ein großer Teil der Arbeit in der Bilderkennung darin, gute Merkmale zu erfinden. Forschungsgruppen veröffentlichten Verfahren mit Namen wie SIFT oder HOG. Das waren im Kern Rezepte, wie man aus einem Bild Zahlen berechnet, die etwas Sinnvolles beschreiben. Ein solches Rezept zu entwickeln dauerte Jahre und funktionierte oft nur für eine einzige Aufgabe.

Das Problem dabei: Menschen sind schlechte Ratgeber, wenn es um sehr feine Unterschiede geht. Was einen Husky von einem Wolf unterscheidet, kann kaum jemand in klare Rechenregeln fassen. Lernende Systeme können solche Merkmale finden, weil sie Millionen Beispiele durchgehen und statistisch prüfen, was zwischen den Klassen wirklich trennt.

Der Umschwung kam mit den ersten großen neuronalen Netzen. Das sind Programme, die aus vielen Schichten einfacher Rechenschritte bestehen. Sie schlugen die handgebauten Verfahren deutlich, obwohl niemand ihnen erklärt hatte, wie ein Hund aussieht. Seitdem gilt Feature-Entdeckung als einer der Gründe, warum moderne KI so breit einsetzbar ist.

Von Kanten zu Gesichtern: der Aufbau in Schichten

Ein neuronales Netz verarbeitet Daten Schicht für Schicht. Jede Schicht bekommt das Ergebnis der vorherigen und fasst es zu etwas Gröberem zusammen. Bei Bildern reagiert die erste Schicht meist auf sehr einfache Dinge: helle und dunkle Übergänge, kurze Kanten, Farbwechsel. Diese Reaktionen sind die einfachsten entdeckten Merkmale.

Weiter hinten werden die Merkmale abstrakter. Aus Kanten setzen sich Ecken und Kreise zusammen, daraus wieder Augen, Räder oder Buchstaben. In den letzten Schichten reagieren einzelne Bausteine auf ganze Objekte oder Situationen. Diese Staffelung ähnelt dem Sehsystem im Gehirn, ist aber nicht absichtlich so gebaut worden — sie entsteht beim Training.

Der Antrieb dahinter ist ein einfacher Rückmeldemechanismus. Das Netz rät ein Ergebnis, vergleicht es mit der richtigen Antwort und verstellt seine internen Zahlenwerte ein winziges Stück in die bessere Richtung. Nach Millionen Wiederholungen überleben genau die inneren Muster, die beim Raten geholfen haben. Merkmale, die nichts beitragen, verkümmern. Feature-Entdeckung ist also kein Suchbefehl, sondern ein Nebenprodukt von sehr vielen kleinen Korrekturen.

Wo entdeckte Merkmale im Alltag auftauchen

Die Fotoverwaltung auf einem Handy sortiert Bilder nach Personen, Orten und Motiven. Dahinter stecken entdeckte Merkmale, die Gesichter voneinander unterscheiden. Auch Empfehlungssysteme bei Streamingdiensten arbeiten so: Sie bilden aus dem Verhalten vieler Nutzer innere Kategorien, für die es oft gar kein passendes deutsches Wort gibt.

In Fachnachrichten begegnet der Begriff häufig zusammen mit Interpretierbarkeit. Damit ist die Frage gemeint, ob Menschen nachvollziehen können, welche Merkmale ein Modell benutzt. Firmen wie Anthropic und OpenAI veröffentlichen Studien, in denen sie in Sprachmodellen einzelne entdeckte Merkmale sichtbar machen, etwa eines für Programmiercode oder eines für Höflichkeit.

Ein verbreiteter Irrtum ist, dass entdeckte Merkmale automatisch sinnvoll seien. Ein Modell kann lernen, Schafe am grünen Hintergrund zu erkennen statt am Tier. Solche Abkürzungen funktionieren im Training gut und versagen in der Praxis. Deshalb prüfen Entwickler heute gezielt, worauf ein Modell wirklich achtet, bevor sie es einsetzen.