TorchNeuron: Amazon lässt PyTorch-Code ohne Umschreiben auf Trainium laufen

Michael Dobler

Autor Dr. Web

19. Okt. 2026

2 Min. Lesezeit

Ein Trainingsskript für Nvidia-Grafikkarten startet auf Amazons Trainium-Chips nach Angaben des Konzerns mit einer einzigen geänderten Einstellung. Möglich macht das TorchNeuron, eine Erweiterung für das KI-Framework PyTorch, die Amazon am 20. Oktober als Open Source freigibt. Amazon will damit die Umbauarbeit überflüssig machen, die bisher jeden Umzug von Nvidia auf andere Chips verteuert.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

85 Prozent der KI-Forscher und Entwickler schreiben ihren Code laut Amazon in PyTorch.^[1] Auf neuer Hardware lief dieser Code selten ohne Umbau und neue Tests. Für die eigenen Trainium-Chips will Amazon diese Hürde nun abschaffen.

Das Wichtigste in Kürze

TorchNeuron führt vorhandenen PyTorch-Code laut Amazon ohne Umschreiben auf Trainium2 und Trainium3 aus.
Amazon veröffentlicht die Software am 20. Oktober unter der Apache-Lizenz 2.0.
Amazons Chipgeschäft setzt aufs Jahr hochgerechnet mehr als 25 Milliarden US-Dollar um, rund 21,8 Milliarden Euro.
Google stellt einen Tag später auf derselben Konferenz PyTorch für seine eigenen KI-Chips vor.

Wie gelingt der Wechsel ohne Umbau?

Oranges Kabel in weißem Steckdosenadapter vor weißem Hintergrund — PyTorch-Schnittstelle ermöglicht Chipherstellern, ihre Prozessoren als eigene Geräte zu registrieren, ohne das Framework selbst zu ändern

PyTorch hat eine Schnittstelle, über die andere Hersteller ihre Chips einbinden. Chiphersteller melden ihr Rechenwerk dort als eigenes Gerät an, statt den Kern des Frameworks zu verändern. Die PyTorch-Dokumentation empfiehlt diesen Weg für neue Chips.^[3] TorchNeuron nutzt laut Amazon diesen Standardweg. Werkzeuge zum Testen, zur Fehlersuche und zum Verteilen des Trainings auf viele Chips sollen deshalb ohne Änderung funktionieren, darunter die Trainingsbibliothek TorchTitan.^[1]

In einer Gegenüberstellung ließen Amazons Ingenieure dasselbe Trainingsskript auf einem herkömmlichen Chip und auf Trainium laufen. Geändert war nur die Angabe des Zielchips. Das Modell zeigte laut Amazon in beiden Fällen dieselbe Lernkurve. Die Messung stammt von Amazon selbst. Als frühe Nutzer nennt der Konzern das Sprach-KI-Start-up Cartesia und das Lieber Institute for Brain Development, das Wirkstoffe sucht.^[1]

Warum investiert Amazon in Software für fremden Code?

Amazon verkauft Rechenzeit auf eigenen Chips. Das Chipgeschäft aus Trainium, Graviton und Nitro setzte zuletzt aufs Jahr hochgerechnet mehr als 25 Milliarden US-Dollar um, rund 21,8 Milliarden Euro (0,87 Euro je US-Dollar, Stand 19. Oktober 2026).^[2] Der Umsatz wuchs im Jahresvergleich um mehr als 100 Prozent. Jedes Entwicklerteam, das seinen Code nicht umbauen muss, wird damit zum möglichen Kunden. Anthropic will bis zu fünf Gigawatt Trainium-Kapazität abnehmen, OpenAI ab 2027 zwei Gigawatt.^[2]

Die Bindung an Nvidia sitzt im Code. Rechenroutinen (Kernel) und Bibliotheken sind seit fast zwei Jahrzehnten für Nvidias Programmierplattform CUDA geschrieben. Frankreichs Wettbewerbsbehörde prüft diese Abhängigkeit in einem Kartellverfahren, das 2023 mit einer Durchsuchung begann. Amazon verhandelt laut Wall Street Journal außerdem über den Kauf von Decart, dessen Software KI-Modelle zwischen Chips verschiedener Hersteller verschiebt. Google zeigt am 21. Oktober auf derselben Konferenz PyTorch für seine eigenen KI-Chips, die TPUs.^[5]

TorchNeuron macht den Chipwechsel billiger, nicht den Cloudwechsel: Trainium gibt es nur bei Amazon.
Markus Seyfferth, Chefredakteur Dr. Web

Amazons Chipgeschäft in Zahlen

Was hinter TorchNeuron steht und welche Frist in der EU folgt

85 %

der KI-Forscher und Entwickler schreiben ihren Code laut Amazon in PyTorch

21,8 Mrd. €

Umsatz im Jahr erreicht Amazons Chipgeschäft hochgerechnet (25 Mrd. US-Dollar, Kurs 0,87)

5 Gigawatt

Trainium-Kapazität will Anthropic abnehmen, OpenAI zwei Gigawatt ab 2027

20. Oktober

gibt Amazon TorchNeuron als Open Source unter der Apache-Lizenz 2.0 frei

12. Januar 2027

entfallen in der EU nach dem Data Act die Entgelte für einen Wechsel des Cloud-Anbieters

Was heißt das für Unternehmen in der EU?

Für Firmen, die eigene Modelle trainieren oder nachtrainieren, wird Trainium zur zweiten Option neben Nvidia-Grafikkarten. Den Anbieter wechseln sie damit nicht: Trainium läuft nur in Amazons Rechenzentren. Den Weg aus einer Cloud regelt in der EU der Data Act: Ab dem 12. Januar 2027 dürfen Anbieter für den Wechsel keine Entgelte mehr verlangen, bis dahin höchstens ihre Kosten.^[4]

Zwei Schritte helfen, sich beide Wege offenzuhalten:

Der Trainingscode nennt keinen fest eingetragenen Chiptyp, damit er auf Grafikkarten und auf Trainium läuft.
Vor einer Umstellung vergleicht das Team eigene Probeläufe auf beiden Chips, statt Amazons Messung zu übernehmen.