DLRM
DLRM steht für Deep Learning Recommendation Model und bezeichnet eine von Facebook (heute Meta) veröffentlichte Modellarchitektur, die vorhersagt, welche Inhalte oder Produkte einen bestimmten Nutzer interessieren. Solche Empfehlungsmodelle bestimmen, was in Feeds und Shops ganz oben steht, und gehören zu den wirtschaftlich wichtigsten KI-Systemen überhaupt.
Wenn du eine App wie Instagram, YouTube oder Amazon öffnest, sieht dein Startbildschirm anders aus als der deiner Freunde. Dahinter steckt ein Programm, das aus deinem bisherigen Verhalten schätzt, was du wahrscheinlich anklicken wirst. DLRM ist eine bestimmte Bauweise für genau solche Programme. Die Abkürzung steht für Deep Learning Recommendation Model, also etwa „Empfehlungsmodell auf Basis lernender Netze“. Facebook, heute Meta, hat diesen Aufbau 2019 offengelegt und den Programmcode frei verfügbar gemacht. Seitdem gilt DLRM als Standardbeispiel dafür, wie große Empfehlungssysteme aufgebaut sind.
Warum Empfehlungsmodelle das Geld verdienen
Öffentlich wird über Chatbots und Bildgeneratoren geredet. Den Umsatz großer Plattformen machen aber Empfehlungsmodelle. Meta, TikTok und Amazon verdienen ihr Geld damit, dass Anzeigen und Produkte zur richtigen Person passen. Schon ein Prozent mehr Klicks bedeutet bei diesen Firmen Milliardenbeträge.
Deshalb laufen solche Modelle rund um die Uhr und in gewaltiger Zahl. Meta hat berichtet, dass Empfehlungsmodelle den größten Teil der eigenen KI-Rechenlast ausmachten. Jede Aktualisierung eines Feeds löst zahllose Vorhersagen aus. Ein Sprachmodell antwortet nur, wenn jemand fragt. Ein Empfehlungsmodell rechnet, sobald jemand scrollt.
Für die Öffentlichkeit ist das auch politisch relevant. Was dir ein solches Modell anzeigt, prägt, welche Nachrichten und Meinungen du siehst. Debatten über Filterblasen oder süchtig machende Feeds drehen sich im Kern um diese Systeme. DLRM ist ein Beispiel, an dem sich diese Technik öffentlich untersuchen lässt.
Zahlen, Kategorien und die Kunst der Kreuzung
Ein DLRM bekommt zwei sehr verschiedene Arten von Angaben. Die einen sind Zahlen, etwa wie lange du gestern in der App warst. Die anderen sind Kategorien ohne natürliche Reihenfolge, etwa das konkrete Video oder deine Gerätemarke. Zahlen kann ein Netz direkt verarbeiten, Kategorien nicht.
Deshalb bekommt jede Kategorie eine sogenannte Einbettung: eine Liste von Zahlen, die das Modell im Training selbst festlegt. Zwei ähnliche Videos erhalten dabei ähnliche Zahlenlisten. Diese Tabellen sind riesig, weil eine Plattform Millionen Videos und Nutzer kennt. Ein einzelnes DLRM kann dadurch mehrere hundert Gigabyte belegen, obwohl die eigentliche Rechnung klein bleibt. Das ist der große Unterschied zu Sprachmodellen, bei denen die Rechenarbeit dominiert.
Im Kern des Modells werden diese Zahlenlisten dann paarweise miteinander verrechnet. Fachleute nennen das Feature Interaction, also das Kreuzen von Merkmalen. Erst dadurch erkennt das Modell Muster wie: Nutzer dieser Altersgruppe mit diesem Gerät mögen diese Musikrichtung. Am Ende gibt ein kleines Netz eine Wahrscheinlichkeit aus, meist für einen Klick.
Wo DLRM in Produkten und Schlagzeilen auftaucht
Direkt siehst du ein DLRM nie. Du merkst es an der Reihenfolge deines Feeds, an den Anzeigen zwischen den Beiträgen und an Vorschlägen wie „Das könnte dir auch gefallen“. Auch Musikdienste und Onlineshops arbeiten mit sehr ähnlichen Modellen, wenn auch nicht immer mit exakt dieser Architektur.
In Wirtschaftsnachrichten begegnet dir der Begriff über Umwege. DLRM ist Teil von MLPerf, einem verbreiteten Testverfahren für KI-Hardware. Wenn Nvidia, AMD oder Google neue Chips vorstellen, wird oft eine DLRM-Bestzeit genannt. Für Anlegerinnen und Anleger ist das ein Hinweis darauf, wie gut eine Hardware mit riesigen Speichertabellen umgeht.
Ein häufiger Irrtum ist, DLRM sei ein fertiges Produkt von Meta. Tatsächlich ist es eine offengelegte Bauanleitung samt Beispielcode. Die produktiv eingesetzten Systeme der Konzerne sind weiterentwickelte, geheime Varianten davon. DLRM dient vor allem als gemeinsamer Bezugspunkt für Forschung und Hardwaretests.
