Die Debatte um KI-Sicherheit hat mit dem offenen Schlagabtausch zwischen Anthropic und Nvidia eine neue Stufe erreicht. Dario Amodei legte am 12. September 2026 einen Essay vor, der die gesamte Branche zum Innehalten auffordert. Drei Tage später stellte Jensen Huang auf der Bühne der Salesforce-Konferenz Dreamforce genau das infrage.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Das Wichtigste in Kürze
- Anthropic-Chef Amodei will die KI-Entwicklung drosseln und schlägt eingebettete unabhängige Prüfer, abgestimmte Sicherheitsstandards und ein internationales Abkommen vor.
- Für die Abstimmung zwischen Konkurrenten hält er eine eng gefasste Ausnahme vom Kartellrecht für nötig.
- Nvidia-Chef Huang nennt eine solche Ausnahme überflüssig, OpenAI und Google verhandeln bereits ohne Freibrief.
- Der EU AI Act schreibt vieles davon längst verbindlich vor, während die USA noch über eine freiwillige Lösung streiten.
Worum geht der Streit zwischen Anthropic und Nvidia?
Anthropic-Chef Dario Amodei veröffentlichte den Essay „We Must Pace the Frontier“.[1] Darin fordert er die Branche auf, das Tempo der Fähigkeitssprünge bewusst zu drosseln, statt jedes Modell so schnell wie möglich auf den Markt zu bringen. Sein Plan ruht auf drei Stufen: eingebettete unabhängige Prüfer in jedem Labor, abgestimmte Sicherheitsstandards zwischen den Firmen der demokratischen Staaten und langfristig ein Abkommen, das auch autoritäre Regierungen einbindet.
Für den ersten Schritt geht Anthropic in Vorleistung. Das Unternehmen kündigt an, einem externen Prüfteam Schreibtische im eigenen Büro, Zugangsausweise und Firmenlaptops zu geben, also echten Mitarbeiterzugang. Wie stark solche eigenmächtigen Systeme aus dem Ruder laufen können, zeigte zuletzt der Fall, in dem Anthropic ein riskantes KI-Training nach unerwarteten Claude-Aktionen pausierte.
Warum will Amodei die eigene Branche ausbremsen?
Hinter dem Aufruf steht ein technisches Argument. KI-Systeme übernehmen zunehmend die Arbeit, die nächste Generation zu bauen, sodass jede Stufe die nächste beschleunigt. Diese rekursive Selbstverbesserung könnte laut Amodei die Kontrolle überholen, bevor die Prüfverfahren greifen.
Der Haken sitzt im Wettbewerbsrecht. Sobald Konkurrenten gemeinsam das Tempo bremsen oder Standards festlegen, ähnelt das einem Kartell, das Preise oder Leistungen abspricht. Amodei verlangt deshalb eine eng gefasste Ausnahme, damit die Regierung solche Sicherheitsgespräche moderieren darf. Kritiker halten dagegen, gemeinsame Standards könnten den größten Laboren erlauben, Kosten und Anforderungen zu diktieren, die kleinere Rivalen nicht stemmen. Denselben Kartell-Konflikt behandelt auch die Meldung, dass OpenAI eine KI-Bremse erwägt und dabei aufs Kartellrecht stößt.
Die eigentliche Frage ist nicht, ob die Branche bremst, sondern wer die Bremse baut. Ein Kartell-Freibrief für die drei größten Labore sichert deren Vorsprung, statt ihn zu prüfen.
— Markus Seyfferth, Chefredakteur Dr. Web
Nvidia-Chef Jensen Huang widersprach auf der Dreamforce offen. Neue Gesetze und Regulierung brauche es nicht, ein Unternehmen könne ein Produkt jederzeit selbst pausieren, falls es ihm unsicher erscheine. OpenAI und Google stimmen sich unterdessen bereits über Sicherheit ab und sehen dafür keinen kartellrechtlichen Freibrief als nötig an.
Was bedeutet der Kartell-Streit für Europa?
Für Europa ist der Streit weniger neu, als er klingt. Der EU AI Act verpflichtet Anbieter von KI-Basismodellen mit systemischem Risiko bereits zu Modellbewertungen, adversarialem Testen und der Meldung schwerwiegender Vorfälle. Vieles, was Amodei freiwillig vorschlägt, steht in der EU also schon im Gesetz. Auch die Konsequenz zeigt sich in Europa, denn immer mehr US-Konzerne setzen inzwischen auf Open-Source-KI statt auf die großen Labore.
Auch die kartellrechtliche Grauzone ist Europa vertraut. Eine Absprache zwischen Wettbewerbern fällt unter Artikel 101 des EU-Vertrags, gleich ob es um Preise oder um Sicherheit geht. Für Entscheider in der DACH-Region hat das zwei Folgen. Der US-Gesetzentwurf S.5105 von Banks und Schiff[2] zeigt, wohin die globalen Standards driften. Zugleich prüfen Unternehmen, die KI-Modelle einkaufen oder betreiben, besser jetzt, welche Prüf- und Meldepflichten aus dem AI Act schon für sie gelten. Eine laufende Einordnung dazu bündelt die KI-Themenseite von Dr. Web.
Anthropic · Dario Amodei
Tempo drosseln, eingebettete unabhängige Prüfer und eine eng gefasste Ausnahme vom Kartellrecht.
OpenAI & Google · Sam Altman
Stimmen sich bereits zur Sicherheit ab und halten eine Kartellausnahme für überflüssig.
Nvidia · Jensen Huang
Keine neuen Gesetze und keine Ausnahme, bei Zweifeln pausiert jedes Labor sein Produkt selbst.
Absprachen zwischen Konkurrenten können als Kartell gelten. Die USA debattieren mit dem Entwurf S.5105 eine enge Ausnahme, der EU AI Act schreibt Modellbewertung, Tests und Meldepflichten längst verbindlich vor.
Unabhängig vom Ausgang der US-Debatte bleibt der praktische Hebel derselbe: die eigenen KI-Prozesse an den bestehenden EU-Pflichten ausrichten, statt auf einen freiwilligen Branchenpakt zu warten.
Quellen
[1] Dario Amodei: „We Must Pace the Frontier“
[2] US-Senat: „Collaboration on Adversarial Threats and Security Risks Act“ (S. 5105)
Mehr Newshunger?
- OpenAI erwägt die KI-Bremse und stößt aufs Kartellrecht
- Anthropic pausiert riskantes KI-Training nach eigenmächtigen Claude-Aktionen
- Anthropic-Bedrohungsbericht: KI-Agenten bauen Schadsoftware um, bis kein Scanner anschlägt
- US-Konzerne setzen zunehmend auf Open-Source-KI statt auf OpenAI und Anthropic
- Claude nur noch ab 18: Anthropic prüft das Alter per Selfie oder Ausweis
