Regression (Machine Learning)

Regression bezeichnet eine bestimmte Art von Aufgabe, die ein Computerprogramm aus Daten lernen kann. Das Programm bekommt viele Beispiele mit bekannter Antwort und soll daraus eine Zahl vorhersagen. Ein typisches Beispiel ist der Preis einer Wohnung: Bekannt sind Größe, Baujahr, Lage und Etage, gesucht ist der Preis in Euro. Das Ergebnis ist dabei ein Wert auf einer stufenlosen Skala, also 412.350 Euro und nicht bloß « teuer » oder « günstig ». Genau darin liegt der Unterschied zur sogenannten Klassifikation, bei der ein Programm zwischen festen Schubladen wählt, etwa « Spam » oder « kein Spam ». Regression gehört damit zu den ältesten und meistgenutzten Werkzeugen der Datenauswertung überhaupt.

Warum Zahlen vorhersagen so viel wert ist

Sehr viele praktische Fragen laufen auf eine Zahl hinaus. Wie viel Strom verbraucht eine Stadt morgen Mittag? Wie lange dauert die Lieferung? Wie hoch wird der Umsatz im nächsten Quartal? Für all das ist eine Kategorie zu grob, man braucht einen konkreten Wert. Unternehmen planen ihre Einkäufe, ihr Personal und ihre Preise auf Basis solcher Vorhersagen.

Ein zweiter Grund ist die Nachvollziehbarkeit. Einfache Regressionsmodelle lassen sich lesen wie eine Formel. Man kann sagen: Jeder zusätzliche Quadratmeter erhöht den geschätzten Preis um rund 4.000 Euro. Solche Aussagen sind in Bereichen wie Medizin, Versicherung oder Kreditvergabe wichtig, weil dort Entscheidungen begründet werden müssen.

Ein häufiger Irrtum ist allerdings, dass ein Modell damit Ursachen erkennt. Es findet nur Zusammenhänge in den Daten. Wenn Eisverkäufe und Sonnenbrände gemeinsam steigen, verursacht das eine nicht das andere. Beides hängt vom Wetter ab. Regression sagt gut voraus, erklärt aber nicht automatisch, warum etwas geschieht.

Von der Trendlinie zum Fehlermaß

Die einfachste Form ist die lineare Regression. Man trägt die Beispieldaten in ein Koordinatensystem ein und legt eine Gerade hindurch. Die Gerade wird so verschoben und gekippt, dass sie möglichst nah an allen Punkten liegt. Danach kann man für jeden neuen Eingabewert den passenden Punkt auf der Geraden ablesen. Das ist die Vorhersage.

Was « möglichst nah » bedeutet, muss man messen. Dafür berechnet man für jeden Punkt den Abstand zur Geraden, quadriert ihn und addiert alles auf. Diese Summe heißt Fehlerfunktion, und das Training besteht darin, sie klein zu machen. Das Quadrieren sorgt dafür, dass große Ausreißer stark ins Gewicht fallen. Ein Verfahren namens Gradientenabstieg tastet sich dabei in kleinen Schritten zur besten Einstellung vor.

In der Praxis gibt es meist viele Eingangsgrößen statt einer, und der Zusammenhang ist selten eine reine Gerade. Dann nutzt man Entscheidungsbäume, Baum-Ensembles oder neuronale Netze. Das Prinzip bleibt gleich: Ausgabe ist eine Zahl, und ein Fehlermaß bewertet, wie weit sie danebenliegt. Gefährlich wird nur die Überanpassung, wenn ein Modell die Trainingsbeispiele auswendig lernt und bei neuen Daten versagt.

Regression in Wetter-Apps, Börsenberichten und Lieferzeiten

Im Alltag steckt Regression in vielen Anzeigen, ohne dass der Begriff fällt. Die Ankunftszeit in einer Navigations-App ist eine Regressionsvorhersage. Ebenso die Temperaturangabe für übermorgen, die Restlaufzeit-Anzeige eines Akkus oder der geschätzte Wiederverkaufswert eines Autos auf einer Gebrauchtwagenseite.

In Wirtschaftsnachrichten begegnet der Begriff oft in der Form « Modell prognostiziert ». Banken schätzen Ausfallrisiken, Energieversorger die Netzlast, Handelsketten den Absatz einzelner Produkte. Auch Angaben zur Inflation oder zum Wirtschaftswachstum beruhen häufig auf Regressionsmodellen mit historischen Daten.

Wer solche Zahlen liest, sollte auf zwei Dinge achten. Erstens auf die Unsicherheit: Seriöse Prognosen nennen eine Spanne, nicht nur einen Punktwert. Zweitens auf die Datengrundlage, denn ein Modell kennt nur die Vergangenheit. Bei plötzlichen Umbrüchen wie einer Pandemie oder einem Preisschock liegen Regressionsvorhersagen regelmäßig deutlich daneben.