Nemotron 3.5 Lightning: Wie schnell ist Nvidias Modell?

Nemotron 3.5 Lightning: Nvidia wählt Tempo statt Spitzenplatz

Markus Seyfferth

Autor Dr. Web

11. August 2026

2 Min. Lesezeit

Nvidia hat am 11. August sein erstes offenes KI-Modell seit Jensen Huangs Open-Source-Appell veröffentlicht. Nemotron 3.5 Lightning schafft rund 670 Token pro Sekunde und landet im Intelligenz-Index von Artificial Analysis trotzdem nur bei 24 Punkten, hinter Qwen 3.6 und Metas Muse Glimmer. Der Rückstand ist kein Versehen, sondern folgt aus Nvidias Geschäft mit Grafikkarten.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

Drei Wochen nach dem offenen Brief, den Nvidia gemeinsam mit Microsoft, Dell und Palantir unterzeichnet hat, liegt das Ergebnis auf Hugging Face. Nemotron 3.5 Lightning umfasst 30 Milliarden Parameter, von denen je Rechenschritt nur 3 Milliarden arbeiten.^[1] Für Entscheider im deutschsprachigen Raum zählt daran weniger der Listenplatz als die Frage nach den Betriebskosten im eigenen Rechenzentrum.

Das Wichtigste in Kürze

Nvidia gab Nemotron 3.5 Lightning am 11. August 2026 unter der Lizenz OpenMDW-1.1 zur kommerziellen Nutzung frei.
Das Modell umfasst 30 Milliarden Parameter und aktiviert je Rechenschritt nur 3 Milliarden davon.
Eine H100 mit 80 Gigabyte genügt für den Betrieb, die quantisierte NVFP4-Fassung läuft bis hinunter zur GeForce RTX 5090.
Mitgeliefert werden die Routing-Bibliothek NeMo Switchyard und der Trainingsdatensatz Nemotron-RL-Agentic-Terminal-Pivot.

Warum baut ein Chiphersteller jetzt eigene Modelle?

Zwei Stoppuhren auf einem Siegerpodest, mit Anhänger und Aufschrift „Schnell genug“ — Hyperscaler entwickeln eigene Beschleuniger: Microsoft bestellt 300.000 Maia-Chips, Google nutzt TPUs, um unabhängig von Nvidias Hardware zu werden

Offene Gewichte verschieben die Rechenlast dorthin, wo Nvidia verdient. Geschlossene Spitzenmodelle laufen in den Rechenzentren weniger Hyperscaler. Genau diese Kunden entwickeln inzwischen eigene Beschleuniger: Microsoft verhandelt mit TSMC über 300.000 Maia-300-Chips, Google rechnet längst auf eigenen TPUs. Ein Modell, das jedes Unternehmen selbst betreiben kann, verteilt die Inferenz zurück auf Karten mit CUDA.

Der zweite Hebel steckt im Zahlenformat. Lightning erscheint zusätzlich als NVFP4-Fassung, und Nvidias eigenes Vier-Bit-Format schrumpft die Gewichte so weit, dass eine GeForce RTX 5090 für den Betrieb reicht. Unternehmen, die Modelle bisher nur in der Cloud mieteten, bekommen damit einen Grund für eigene Hardware. Dieselbe Logik steckt hinter den 435 Milliarden Euro Fremdkapital, die Nvidia für neue Rechenzentren organisiert.

Was bringt Tempo, wenn die Punktzahl fehlt?

Der Rückstand im Intelligenz-Index ist eingepreist. Metas Muse Glimmer kommt dort auf 35 Punkte, Nvidia bleibt bei 24. Dafür ist Lightning auf lange Agentenläufe getrimmt, also auf Werkzeugaufrufe, Prüfschritte, Übergaben an Unteragenten und die Auswertung der Zwischenergebnisse. Auf PinchBench löst das Modell 10.000 Aufgaben mit 86 Prozent Trefferquote und arbeitet dabei 30 Prozent schneller als Qwen 3.6 35B.^[2]

Bei Agenten zählt der Durchsatz doppelt. Ein Lauf mit hundert Werkzeugaufrufen wartet hundertmal auf das Modell. Im Agenten-Benchmark GDPval-AA v2 erreicht Lightning 824 Elo und schlägt damit gpt-oss-120b mit 800 Punkten sowie das größere Nemotron 3 Super mit 698. Nvidia beziffert die Ersparnis in Partner-Installationen auf bis zu 58 Prozent.

Nvidia verschenkt kein Modell aus Idealismus. Mit Nemotron 3.5 Lightning kauft der Konzern sich die Inferenz zurück, die Microsoft und Google gerade auf eigene Chips verlagern.
— Michael Dobler, Herausgeber Dr. Web

670

Token pro Sekunde im Messlauf von Artificial Analysis

3 von 30

Milliarden Parameter arbeiten je Rechenschritt

824 Elo

im Agenten-Benchmark GDPval-AA v2, gpt-oss-120b liegt bei 800

1 Million

Token Kontextfenster, 256.000 davon auf einer einzelnen H100

Tempo im Vergleich

Nemotron 3.5 Lightning670 Token pro Sekunde

Gemini 3.5 Flash-Lite386 Token pro Sekunde

Was gilt für offene Modelle unter der KI-Verordnung?

Die KI-Verordnung behandelt offene Modelle nicht pauschal milder. Artikel 53 Absatz 2 befreit Anbieter freier, quelloffener Modelle von der technischen Dokumentation und von den Informationspflichten gegenüber nachgelagerten Anbietern.^[3] Die Urheberrechts-Strategie und die öffentliche Zusammenfassung der Trainingsinhalte bleiben trotzdem Pflicht. Die verschärfte Stufe für systemische Risiken greift erst ab einem Trainingsaufwand von 10 hoch 25 Gleitkommaoperationen, und ein Modell mit 30 Milliarden Parametern bleibt deutlich darunter.

Für Anwender ist die Anbieterrolle schneller erreicht als gedacht. Sobald ein Unternehmen Lightning nachtrainiert und unter eigenem Namen ausliefert, gelten die Anbieterpflichten für dieses Unternehmen. Prüfen Sie deshalb vor dem ersten Feintuning zwei Punkte: welche Bedingungen von OpenMDW-1.1 Sie weitergeben müssen und wie viel Nvidia über die Trainingsdaten offenlegt. Der Konzern veröffentlicht davon nur so viel, wie die Lizenzen der Datenquellen zulassen. Genau diese Lücken zeigt auch die Landkarte des offenen KI-Stacks.