Zum Inhalt springen
← Alle KI-News
Aionity · KI-NewsModelle

NVIDIA erweitert Nemotron um ein offenes multimodales Modell

NVIDIA stellt Nemotron 3.5 Super VL mit 120 Milliarden Parametern und zwei Bolt-Modelle für lokale Anwendungen vor. Super VL verarbeitet laut NVIDIA Text, Bilder, Dokumente und Videos und kann Werkzeuge nutzen sowie Code schreiben.

Symbolbild: NVIDIA erweitert Nemotron um ein offenes multimodales Modell
Symbolbild · KI-generiert

Nemotron 3.5 Super VL ist ein Mixture-of-Experts-Modell, bei dem pro Token 12 Milliarden der insgesamt 120 Milliarden Parameter aktiv sind. Es nimmt Text, Bilder und Videos entgegen und gibt Text aus. NVIDIA nennt einen Kontext von bis zu einer Million Tokens; der Modellkarten-Auszug führt 262.144 Tokens nativ und eine Erweiterung auf 1.010.000 auf. Videos sind laut Modellkarte auf MP4-Clips von höchstens zwei Minuten begrenzt. Die Gewichte stehen unter der Lizenz OpenMDW-1.1 bereit.

Für die Ausführung mit dem NVFP4-Checkpoint nennt NVIDIA einzelne Systeme: DGX Spark, H200 oder GB200 sowie zwei H100. Zusätzlich gibt es einen BF16-Checkpoint. In von NVIDIA berichteten Tests erzielte das Modell 89,90 Punkte auf GPQA-Diamond und 17,78 auf tau3-bench banking. NVIDIA gibt außerdem an, bei agentischen Aufgaben über einen Baseten-Endpunkt mehr als 600 Ausgabetokens pro Sekunde erreicht zu haben. Solche Benchmarkwerte stammen laut NVIDIA aus dem NVFP4-Checkpoint.

Die beiden Edge-Modelle richten sich an lokale Anwendungen. Nemotron 3.5 Bolt 74B-A9B 24GB ist für lokale agentische Workloads ausgelegt; laut NVIDIA soll die native 2-Bit-Quantisierung in 24 GB Speicher passen. Nemotron 3.5 Bolt E4B 4GB ist für Sprachassistenten und eingebettete Agenten vorgesehen. Der Pressebericht nennt den 23. Oktober als Starttermin für E4B. Eine Parameterzahl für dieses Modell wird dort nicht angegeben.

Super VL ist laut dem Bericht auf Hugging Face, OpenRouter, ModelScope und als NVIDIA NIM verfügbar. Als unterstützte Laufzeitumgebungen werden vLLM, SGLang und TensorRT-LLM genannt; für lokale Nutzung auch llama.cpp und Unsloth. NVIDIA veröffentlichte zudem Datensätze, Trainingsrezepte und RL-Umgebungen in NeMo Gym. Für die Bolt-Modelle nennt der Bericht unter anderem Hugging Face und mehrere Laufzeit- beziehungsweise Bedienumgebungen wie Ollama und LM Studio für Bolt 74B-A9B.

War der Artikel hilfreich?

💡 Tipp: Wenn du multimodale Agenten entwickelst, kannst du Super VL über die genannten Modellplattformen testen oder die Gewichte lokal mit einer unterstützten Laufzeit ausführen.

Frag Aiory dazu Aiory liest den Artikel und beantwortet deine Fragen dazu.

Quellen

KI-erstellter Artikel: Die Aionity-KI hat recherchiert – sie sucht die Originalquelle (etwa die Seite des Herstellers), zieht weitere Berichte hinzu und schreibt daraus einen eigenen Text. Alle Quellen stehen oben. Eine eigene Meinung gibt sie nicht ab. Kennzeichnung nach Art. 50 KI-Verordnung. Fehler? Sag uns im Discord Bescheid.

Alle KI-Meldungen live im Discord Die wichtigsten auch auf X und Bluesky.

← Alle KI-News

Fragen? Einfach mitreden – im Discord.

Discord ist ein kostenloser Gruppenchat. Dort kannst du nachfragen, was eine Meldung bedeutet, eigene Fragen stellen und dich mit anderen austauschen – ganz ohne Vorwissen. Wir fangen gerade erst an: Schau gern vorbei und sag Hallo.