Ein Inferenz-Chip mit 700 Watt hat in OpenAIs Labor mehr Token ausgeliefert als Nvidias GB300 mit der doppelten Leistungsaufnahme. Gemessen wurde über drei Modelle hinweg auf InferenceX, dem Vergleichssystem von SemiAnalysis.[1] Für europäische Betreiber trifft das Ergebnis einen ungünstigen Moment. Die EU schreibt gerade bis zu sieben KI-Gigafabriken aus und muss deren Rechenleistung am offenen Markt einkaufen.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Das Wichtigste in Kürze
- Jalapeño zieht 700 Watt, Nvidias GB300 rund 1.400 Watt.
- Je Kilowatt lieferte der Chip nach Angaben von OpenAI 1,5- bis 1,9-mal mehr Token, bei 1,7- bis 3,6-mal kürzerer Antwortzeit.
- Gemessen hat OpenAI selbst, ohne Nvidias neue Vera-Rubin-Generation.
- Die ersten Exemplare laufen Ende 2026 an, der breitere Ausbau folgt 2027.
Warum schlägt ein 700-Watt-Chip eine 1.400-Watt-GPU?
Jalapeño kann weniger als ein Grafikprozessor und holt genau deshalb mehr aus jedem Watt. Der Chip beherrscht ausschließlich Inferenz, also das Beantworten von Anfragen. Broadcom hat um einen einzelnen, retikelgroßen Rechenkern acht Stapel schnellen Speichers gelegt. Der KV-Cache, das Kurzzeitgedächtnis eines Sprachmodells, bleibt dadurch am Chip, statt zwischen Beschleunigern zu wandern.[1]
Kostenrechnung. Die Beschleuniger hängen an gewöhnlichem Ethernet von Broadcom statt an Nvidias NVLink. Richard Ho, bei OpenAI für Hardware zuständig, ordnete die Messung in einer Presserunde so ein: „Unter dem Strich zeigen die Ergebnisse einen sehr, sehr deutlichen Leistungssprung gegenüber dem Stand der Technik.“ Zu Nvidia sagte Ho: „Nvidia ist ein wirklich guter Partner und wir brauchen weiterhin sehr viel Nvidia.“ Fürs Training kauft OpenAI unverändert zu.
Welche Konzerne entwerfen ihre Beschleuniger längst selbst?
OpenAI ist das letzte große KI-Labor, das seinen Inferenz-Chip selbst zeichnet. Google begann 2015 mit der ersten TPU, ebenfalls gemeinsam mit Broadcom. Amazon schob Inferentia und Trainium nach. Bei Meta heißt der Beschleuniger MTIA, bei Microsoft Maia.
Gemeinsamer Nenner. Broadcom hat fast jeden dieser Entwürfe mitgebaut und beliefert inzwischen auch Anthropic. Das Programm mit OpenAI umfasst laut der im Oktober 2025 geschlossenen Vereinbarung 10 Gigawatt eigener Beschleuniger bis Ende 2029.
Nicht der Benchmark ist die Nachricht, sondern die Adresse. Ein Anbieter mit genügend Token-Volumen lässt seinen Beschleuniger heute selbst entwerfen, alle anderen zahlen den Listenpreis.
— Markus Seyfferth, Chefredakteur Dr. Web
Bekanntes Muster. Der Preisdruck ist frisch, denn Nvidias KI-Server verteuern sich laut Bloomberg um mehr als 15 Prozent. Anthropic finanziert seine eigenen Chips mit bis zu 87 Milliarden Euro. OpenAI mietete zuletzt fremde Spezialhardware und erreichte damit 750 Token je Sekunde im Ultrafast Mode. Selbst Nvidia sondiert einen Deal mit dem koreanischen Inferenz-Designer Rebellions. Wie schmal der deutsche Zugang zu solcher Technik ausfällt, zeigen die fünf für KI-Fabriken zertifizierten Systemhäuser. Mehr zur künstlichen Intelligenz steht in unserer Rubrik.
Was bedeutet Jalapeño für europäische Rechenzentren?
Europas Gigafabriken kaufen am Markt genau die Hardware ein, von der sich die größten Abnehmer gerade abwenden. Das EuroHPC Joint Undertaking hat die Ausschreibung für bis zu sieben KI-Gigafabriken am 30. Juli 2026 gestartet, Einreichungsschluss ist der 12. November 2026.[2] Ausgewählt wird Anfang 2027, danach bleiben 18 Monate bis zum Betrieb.
Effizienzlücke. Neue Rechenzentren in Deutschland müssen seit dem 1. Juli 2026 einen PUE-Wert von höchstens 1,2 einhalten, so steht es in Paragraf 11 des Energieeffizienzgesetzes.[3] Diese Kennzahl erfasst allerdings nur den Aufschlag für Kühlung und Gebäudetechnik, nicht die geleistete Arbeit je Kilowatt im Rechenwerk. Ein Beschleuniger mit doppelter Token-Ausbeute verbessert den PUE-Wert um keinen Punkt und halbiert trotzdem den Stromeinsatz je Antwort.
Handlungsempfehlung. Vergleichen Sie Angebote für KI-Inferenz künftig nicht über die Rechenleistung im Datenblatt, sondern über die Token je Kilowattstunde. In Verträge mit Laufzeit bis 2028 gehört zudem eine Klausel für den Hardwarewechsel, weil Jalapeño und seine Nachfolger die Preisbasis für Inferenz verschieben können.
FAQ: Der Inferenz-Chip Jalapeño von OpenAI
Was ist Jalapeño?
Jalapeño ist der erste selbst entworfene KI-Beschleuniger von OpenAI, gebaut zusammen mit Broadcom und ausschließlich für Inferenz gedacht, also für das Beantworten von Anfragen. Vorgestellt wurde der Chip am 24. Juni 2026, die ersten Messwerte veröffentlichte OpenAI am 25. August 2026.
Kann Jalapeño KI-Modelle trainieren?
Nein. Der Chip ist reine Inferenz-Hardware und deckt das Training großer Modelle nicht ab. Dafür kauft OpenAI weiterhin Grafikprozessoren von Nvidia zu, wie der Hardware-Verantwortliche Richard Ho ausdrücklich betont hat.
Welches Unternehmen fertigt den Chip?
Broadcom entwickelt und liefert Jalapeño nach dem Entwurf von OpenAI, einschließlich der Ethernet-Vernetzung. Die Vereinbarung dazu stammt vom Oktober 2025 und umfasst 10 Gigawatt an Beschleunigern bis Ende 2029.
Ab wann läuft Jalapeño produktiv?
Die ersten Exemplare gehen nach Angaben von OpenAI Ende 2026 in sehr kleiner Stückzahl in Betrieb, der breitere Ausbau folgt 2027. Eine zweite Generation soll in den kommenden Monaten ihr Tape-out erreichen, eine dritte steckt in der Entwurfsphase.
Können andere Unternehmen Jalapeño kaufen?
Nein. OpenAI hat den Chip für die eigenen Rechenzentren entworfen und bislang keinen Verkauf an Dritte angekündigt. Europäische Betreiber bleiben damit auf das Angebot von Nvidia, AMD und den wenigen übrigen Anbietern am offenen Markt verwiesen.
Quellen
[1] OpenAI: „Jalapeño’s first results show industry-leading speed and efficiency in AI inference“
[2] EuroHPC Joint Undertaking: „The EuroHPC Joint Undertaking launches the AI Gigafactories Call“
[3] Bundesministerium der Justiz: Energieeffizienzgesetz, Paragraf 11 (Anforderungen an Rechenzentren)
Mehr Newshunger?
- Nvidias KI-Server werden laut Bloomberg mehr als 15 Prozent teurer
- Broadcom beschafft laut Bloomberg bis zu 87 Milliarden Euro für Anthropics KI-Chips
- Nvidia sondiert laut Bloomberg einen Deal mit Koreas Inferenz-Designer Rebellions
- Groq nach dem Nvidia-Deal: 305 Millionen Euro für den Rest der Firma
- Ultrafast Mode: OpenAI erreicht mit Cerebras-Chips 750 Token pro Sekunde
- Prefill-as-a-Service: Moore Threads senkt die Kosten langer KI-Kontexte
