NVIDIA hat Kumo Tabular als Teil der Modellfamilie NVIDIA Kumo Structured auf Hugging Face veröffentlicht. Das Modell nimmt eine Tabelle mit beschrifteten Beispielen und Zeilen ohne bekannte Zielwerte entgegen. In einem einzelnen Verarbeitungsschritt gibt es für Klassifikationen Klassenwahrscheinlichkeiten und für Regressionen Zahlenwerte aus. Nach Angaben von NVIDIA ist weder Training noch Feinabstimmung oder Feature Engineering für die jeweilige Aufgabe nötig. Das Modell ist für beide Aufgabentypen ausgelegt und unter der Lizenz OpenMDW-1.1 auch kommerziell nutzbar.
Kumo Tabular wurde laut NVIDIA ausschließlich mit künstlich erzeugten Daten vortrainiert. Es gibt drei Größen mit 28M bis 215M Parametern. Der Code steht in einer Open-Source-Bibliothek bereit; Modellgewichte sind auf Hugging Face verfügbar. NVIDIA nennt TabArena, BeyondArena, TALENT und ScoringBench als Benchmarks, in denen Kumo Tabular jeweils den ersten Platz erreicht. Diese Rangfolge ist eine Angabe des Unternehmens.
Technisch ist Kumo Tabular ein Transformer, der für Tabellenstrukturen entwickelt wurde. Er verarbeitet Zahlen und Kategorien in Spalten, berücksichtigt Zusammenhänge zwischen den Merkmalen einer Zeile und nutzt die beschrifteten Zeilen als Kontext für die Vorhersage. Fehlende Werte werden laut Beschreibung speziell behandelt und müssen nicht zuvor imputiert werden. Bei der Regression erzeugt das Modell 999 Quantile; daraus werden ein einzelner Vorhersagewert und eine Schätzung der Unsicherheit abgeleitet.
Das Verfahren unterscheidet zwischen Kontextzeilen mit bekannten Labels und Abfragezeilen, für die Vorhersagen gesucht werden. Die Abfragezeilen greifen auf den Kontext zu, nicht umgekehrt. Dadurch hängt eine Vorhersage laut NVIDIA nur vom Kontext und der jeweiligen Zeile ab, nicht davon, welche weiteren Zeilen gleichzeitig ausgewertet werden. Die wiederverwendbare Berechnung des Kontexts soll Folgevorhersagen unterstützen. Wie das Modell in konkreten Datensätzen gegenüber etablierten Verfahren abschneidet, lässt sich aus den genannten Ranglisten allein nicht ablesen.
