Tabular Foundation Model

Sehr viele Daten in Firmen und Behörden stehen in Tabellen: Zeilen für Kunden, Spalten für Alter, Umsatz oder Wohnort. Bisher baute man für jede solche Tabelle ein eigenes Rechenverfahren, das nur aus genau diesen Daten lernte. Ein Tabular Foundation Model geht anders vor. Es wurde vorab an Millionen künstlicher oder gesammelter Tabellen geschult und hat dabei allgemeine Muster gelernt, wie Spalten zusammenhängen. Danach bekommt es eine völlig neue Tabelle vorgelegt und füllt fehlende Werte oder sagt zukünftige Werte voraus. Der Ausdruck „Foundation Model“ bedeutet dabei: ein großes Grundmodell, das man für viele verschiedene Aufgaben weiterverwendet, statt es jedes Mal von null zu bauen.

Warum Tabellen die wichtigsten Daten der Wirtschaft sind

Die bekannten KI-Erfolge betrafen zuerst Text und Bilder. Der Alltag von Banken, Versicherungen und Krankenhäusern besteht aber aus Tabellen. Ob ein Kredit zurückgezahlt wird, ob eine Maschine bald ausfällt, welcher Patient ein hohes Risiko hat: All das steckt in Zeilen und Spalten. Wer hier besser vorhersagt, spart direkt Geld.

Bisher war das Aufwand für Fachleute. Ein Datenanalyst musste Spalten aufbereiten, ein Verfahren auswählen und dessen Einstellungen mühsam optimieren. Dieser Ablauf dauerte Tage bis Wochen pro Projekt. Ein vortrainiertes Modell kann diesen Schritt stark verkürzen, weil es sofort brauchbare Vorhersagen liefert.

Besonders wertvoll ist das bei kleinen Datenmengen. Ein Krankenhaus hat vielleicht nur 400 Patientenakten zu einer seltenen Erkrankung. Klassische Verfahren lernen daraus wenig Verlässliches. Ein Modell, das schon viele ähnliche Datenstrukturen gesehen hat, kommt mit solchen kleinen Tabellen deutlich besser zurecht.

Vortraining an erfundenen Tabellen

Der zentrale Trick liegt im Vortraining. Die Entwickler erzeugen per Computer riesige Mengen künstlicher Tabellen mit bekannten Zusammenhängen. In einer Tabelle hängt die Zielspalte etwa linear von zwei anderen ab, in der nächsten sprunghaft, in der dritten kaum. Das Modell übt an Millionen solcher Fälle, aus wenigen Zeilen den Zusammenhang zu erraten. Es lernt also nicht Fakten über Kunden, sondern das Handwerk des Vorhersagens.

Bei der Anwendung übergibt man dem Modell die vorhandenen Zeilen samt bekannter Antworten und dazu die neue Zeile, deren Wert fehlt. Das Modell vergleicht, erkennt das Muster und gibt eine Vorhersage aus. Ein zusätzliches Training entfällt oft völlig. Fachleute nennen das In-Context-Learning: Lernen allein aus den Beispielen, die im Eingabefenster stehen.

Ein Vergleich hilft. Ein klassisches Verfahren ist wie ein Schüler, der für jede Klassenarbeit den Stoff komplett neu lernt. Das Foundation Model ist wie ein erfahrener Lehrer: Er hat tausende Aufgabentypen gesehen und erkennt beim Blick auf neue Zahlen sofort das Prinzip. Die Grenze liegt bei der Größe. Viele dieser Modelle arbeiten nur bis zu einigen tausend Zeilen und Spalten zuverlässig, weil alles gleichzeitig in die Eingabe passen muss.

TabPFN, Cloud-Dienste und Fußnoten in Quartalsberichten

Das bekannteste Beispiel heißt TabPFN und stammt aus der Forschung an der Universität Freiburg. Eine Fassung davon erschien 2025 im Fachjournal Nature, was für Aufmerksamkeit in der Branche sorgte. Google, Amazon und mehrere Start-ups arbeiten an vergleichbaren Modellen. In Nachrichtenmeldungen tauchen sie oft unter Schlagworten wie „Foundation Model für Unternehmensdaten“ auf.

Im Alltag merkt man davon meist nichts direkt. Man begegnet den Ergebnissen: einer Kreditentscheidung, einer Betrugswarnung der Bank, einer Wartungsempfehlung für eine Maschine. Auch Analyseprogramme in Firmen bauen solche Modelle zunehmend ein. Der Nutzer lädt eine Tabelle hoch und erhält Vorhersagen, ohne selbst etwas einzustellen.

Ein häufiger Irrtum: Ein Tabular Foundation Model ist kein Sprachmodell wie ChatGPT. Es schreibt keine Texte und versteht keine Fragen in Alltagssprache. Es verarbeitet Zahlen und Kategorien in einem festen Raster. Deshalb schlägt es Sprachmodelle bei Tabellenaufgaben oft deutlich, obwohl es viel kleiner ist.