Time Series Foundation Model

Viele Daten in Wirtschaft und Technik sind Messreihen: Werte, die in regelmäßigen Abständen aufgezeichnet werden. Der Stromverbrauch einer Stadt pro Stunde ist so eine Reihe, ebenso der Tagesumsatz eines Supermarkts oder der Preis einer Aktie pro Minute. Fachleute nennen solche Datenreihen Zeitreihen. Ein Time Series Foundation Model ist ein sehr großes Rechenmodell, das aus Milliarden solcher Messwerte gelernt hat, wie sich Zahlenreihen typischerweise weiterentwickeln. Man kann ihm anschließend eine völlig neue Reihe zeigen, die es im Lernen nie gesehen hat, und es sagt die nächsten Werte voraus. Das Wort Foundation Model, also Basismodell, beschreibt genau diesen Zweck: eine Grundlage, die viele Anwender für sehr unterschiedliche Aufgaben weiterverwenden.

Was sich für Prognosen dadurch ändert

Bisher lief Vorhersage fast immer so: Für jede Datenreihe baute man ein eigenes Modell. Ein Supermarkt mit 30.000 Artikeln brauchte also im Extremfall 30.000 kleine Modelle, jedes einzeln angepasst und überwacht. Das kostet Zeit von Fachleuten, die es in vielen Unternehmen nicht in ausreichender Zahl gibt. Ein Basismodell ersetzt diese Sammlung im Idealfall durch ein einziges System.

Besonders wertvoll ist das bei sogenanntem Zero-Shot-Einsatz. Damit meint man: Das Modell wird ohne jedes zusätzliche Training auf neue Daten angewendet. Ein neu eröffnetes Geschäft hat noch keine Verkaufshistorie, aus der ein klassisches Modell lernen könnte. Ein Basismodell hat aber Muster aus tausenden anderen Geschäften gesehen und liefert trotzdem eine brauchbare Schätzung.

Dahinter steht ein wirtschaftliches Argument. Prognosen entscheiden über Lagerbestände, Personalpläne und Energieeinkauf. Wenn ein Handelskonzern seine Nachfrage um wenige Prozent genauer vorhersagt, spart er Millionen an Lagerkosten und weggeworfener Ware. Deshalb arbeiten Google, Amazon, IBM und Salesforce an eigenen Modellen dieser Art.

Wie Messwerte zu Lernmaterial werden

Technisch sind diese Modelle nah verwandt mit Sprachmodellen wie ChatGPT. Beide nutzen die Transformer-Architektur, einen Netzwerktyp, der besonders gut darin ist, in einer Folge weit entfernte Zusammenhänge zu erkennen. Bei Sprache ist die Folge ein Satz, bei Zeitreihen eine Kette von Messwerten. Ein Sprachmodell errät das nächste Wort, ein Zeitreihenmodell den nächsten Zahlenwert.

Damit das geht, wird die Reihe zerlegt. Die Modelle fassen meist mehrere aufeinanderfolgende Messwerte zu einem Häppchen zusammen, im Fachjargon Patch genannt. Diese Häppchen sind für das Modell das, was Wortbausteine für ein Sprachmodell sind. Zusätzlich werden die Zahlen normiert, also auf einen vergleichbaren Maßstab gebracht. Nur so kann dasselbe Modell mit Stromverbrauch in Megawatt und mit Verkaufszahlen in Stückzahlen arbeiten.

Trainiert wird auf gemischten Datensätzen aus Verkehr, Energie, Wetter, Finanzen und Industriesensoren, teils ergänzt durch künstlich erzeugte Reihen. Wichtig ist die Grenze dieses Ansatzes: Das Modell erkennt Muster, es versteht keine Ursachen. Ein unerwarteter Streik, ein Krieg oder eine Gesetzesänderung steht in keiner Messreihe. Genau an solchen Bruchstellen versagen auch die besten Prognosemodelle.

Wo solche Modelle bereits rechnen

Am sichtbarsten sind sie in Cloud-Diensten. Google bietet sein Modell TimesFM über die eigene Plattform an, Amazon nutzt Chronos in seinen Prognosewerkzeugen, IBM veröffentlichte die Reihe Granite Time Series. Mehrere dieser Modelle sind frei verfügbar und lassen sich herunterladen. Sie sind mit wenigen hundert Millionen Parametern deutlich kleiner als Sprachmodelle und laufen daher auch auf bescheidener Hardware.

Im Alltag begegnen dir die Ergebnisse indirekt. Wenn eine Wetter-App eine Stundenprognose zeigt, ein Stromversorger den Verbrauch für morgen einkauft oder ein Onlineshop Lieferzeiten schätzt, stecken Zeitreihenprognosen dahinter. Auch die vorbeugende Wartung von Maschinen gehört dazu: Sensoren melden Temperatur und Vibration, und das Modell warnt, bevor ein Lager bricht.

In Finanznachrichten tauchen die Modelle oft mit übertriebenen Erwartungen auf. Ein verbreiteter Irrtum ist, sie könnten Aktienkurse verlässlich vorhersagen. Kurse enthalten aber extrem viel Zufall, und Studien zeigen bei ihnen nur geringe Vorteile gegenüber einfachen Methoden. Stark sind die Modelle dort, wo Regelmäßigkeiten herrschen, etwa bei Tages- und Jahresrhythmen im Energieverbrauch.