Dario Amodei antwortete einem Kritiker aus der KI-Sicherheitsszene öffentlich und räumte dabei Fehler von Anthropic ein. Am Kurs hält der Anthropic-Chef trotzdem fest: Nur eine KI-Firma an der Spitze könne die ganze Branche zu mehr Sicherheit drängen. Die Antwort kommt wenige Wochen vor einem Börsengang, für den Anthropic laut Medienberichten eine Bewertung von bis zu 2 Bio. Dollar anpeilt, umgerechnet 1,74 Bio. €.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenAmodei veröffentlichte seine Erwiderung in der Nacht zum Mittwoch auf X, als Antwort auf einen langen Beitrag von Nathan Calvin.[1] Calvin leitet die Strategie der gemeinnützigen Organisation Encode AI, die sich für KI-Sicherheit einsetzt. Bis Mittwochmorgen kam Amodeis Text auf mehr als 450.000 Aufrufe.
Das Wichtigste in Kürze
- Nathan Calvin listete neun Schritte von Anthropic auf, die aus seiner Sicht Tempo vor Sicherheit stellen.
- Amodei gab bei drei Punkten Fehler in der Kommunikation zu und will einen weiteren prüfen.
- Der Anthropic-Chef hielt neun eigene Beispiele dagegen, die das Unternehmen Umsatz gekostet hätten.
- Für Kunden in der EU zählen die Pflichten aus der KI-Verordnung mehr als freiwillige Zusagen.
Was wirft Nathan Calvin Anthropic vor?
Calvin fragte am Montagabend, was Anthropic eigentlich sei: ein Konzern, der Mitarbeiter und Investoren reich macht, eine Organisation für KI-Sicherheit oder eine Firma, die vor allem als Erstes eine übermenschliche KI entwickeln will. Die Belege sprechen aus seiner Sicht für die dritte Antwort.[2] Als Beispiele nennt Calvin unter anderem Verträge über Rechenleistung für mehr als 500 Mrd. Dollar (rund 435 Mrd. €), wie The Information berichtet hatte, und einen wachsenden Anteil der KI-Entwicklung, den Claude selbst übernimmt: laut Calvin 0 % im März, 26 % im August.
Schwerer wiegen für Calvin die Regeln, die sich Anthropic selbst gab. Die dritte Fassung der Responsible Scaling Policy, der freiwilligen Richtlinie für den Ausbau immer stärkerer Modelle, enthält nach seiner Darstellung keine Zusage mehr, die Entwicklung bei unzureichender Absicherung im Alleingang zu verlangsamen oder zu stoppen, auch wenn die Konkurrenz weitermacht. Hinzu kommt ein Gesetzentwurf, den Anthropic Abgeordneten im US-Kongress vorlegte. Der Entwurf würde laut Calvin das Recht der US-Bundesstaaten weitgehend verdrängen und der Regierung hohe Hürden setzen, ein gefährliches Modell zu stoppen.[2]
Wie verteidigt Amodei die Strategie?
Amodei bestätigte, dass einige der genannten Beispiele Fehler von Anthropic waren. Die Stoßrichtung der Kritik weist er jedoch zurück: Viele Punkte folgten aus dem Ansatz, den er „Wettlauf nach oben“ nennt, einen Wettbewerb um strengere Sicherheitsstandards. „Indem wir zeigen, wie sich die Technik verantwortungsvoll entwickeln lässt, können wir die Messlatte für die ganze Branche höher legen“, schrieb Amodei. Der Druck dieses Wettlaufs auf die Konkurrenz sei weit größer, wenn das Unternehmen selbst an der Spitze stehe.[1]
Als Gegenbeispiele führt Amodei teure Entscheidungen an: Mythos-Modelle habe Anthropic schon im Februar gehabt, aber erst im Juni allgemein freigegeben, und Unternehmen unter chinesischer Kontrolle verkaufe Anthropic keine KI-Dienste. Calvins Punkte zu missglückten Äußerungen und dem Gesetzentwurf hätte Anthropic nach Amodeis Worten geschickter angehen können, in einer Organisation mit mehr als 5.000 Beschäftigten kämen solche Pannen häufig vor. „Ich bin natürlich der Chef und übernehme die Verantwortung“, schrieb er.[1] Zugleich kündigte Amodei an, bald mehr dazu zu sagen, wie Anthropic seine Werte in dieser Phase umsetzen wolle.
Freiwillige Regeln kann ein KI-Anbieter jederzeit ändern. Kunden sollten sich auf das verlassen, was im Gesetz und im Vertrag steht.
Markus Seyfferth, Chefredakteur Dr. Web
- Rechenleistung: Verträge über mehr als 435 Mrd. €
- KI baut KI: Anteil von Claude an der eigenen Entwicklung von 0 auf 26 %
- Regelwerk: keine Zusage mehr, im Alleingang zu verlangsamen
- Gesetzentwurf: hohe Hürden, um Modelle zu stoppen
- Mythos-Modelle: ab Februar vorhanden, erst im Juni allgemein frei
- China: kein Verkauf an Firmen unter chinesischer Kontrolle
- Biologie: strenge Filter, auch auf Kosten von Forschern
- Fonds: 5 % der Aktien für das Gemeinwohl
- Punkte 7 bis 9: Äußerungen und Gesetzentwurf hätte Anthropic geschickter angehen können
- Punkt 6: zweites Regelwerk, mit dem Anthropic gesetzliche Pflichten erfüllt, will Amodei prüfen
- Punkte 1 bis 4: gehören laut Amodei zur Strategie, bleiben
- Börsengang: Bewertung bis zu 1,74 Bio. € laut Medienberichten
- Amodei: kündigt weitere Erklärung zu Anthropics Werten an
Warum trifft die Kritik Anthropic vor dem Börsengang?
Seit dem Essay der Gründer über ihre Sicht auf KI-Sicherheit von 2023 versteht sich Anthropic als Unternehmen, das im Zweifel bremst.[2] Mit dem Börsengang wird dieser Anspruch zum Teil der Bewertung. Laut dem vom Wall Street Journal eingesehenen Prospektentwurf verbuchte Anthropic im ersten Halbjahr rund 70 Mrd. € Verlust, überwiegend nicht zahlungswirksam.[3] Erst am Sonntag kündigte das Unternehmen an, 5 % seiner Aktien in einen Fonds für das Gemeinwohl zu geben. Amodei führt den Fonds in seiner Antwort als Beleg an, Calvin sieht in solchen Schritten keine Bremse für das Tempo.
Die Kontrolle bleibt dabei bei den sieben Gründern, die über eine einzige Aktie der Gattung F die Mehrheit der Stimmen halten. Kritik an der Sicherheitsstrategie trifft deshalb direkt Amodei. Im Juni hatte Amodei in einem Essay gefordert, dass der Staat Modellfreigaben stoppen darf.[1] Yann LeCun warf ihm Anfang Oktober vor, mit Sicherheitswarnungen offene Modelle ausbremsen zu wollen. Calvin kritisiert nun aus der Gegenrichtung: zu viel Tempo, zu wenig Bremse.
Was bedeutet der Streit für Unternehmen in Europa?
Die Responsible Scaling Policy bindet Anthropic nur gegenüber sich selbst und lässt sich ändern. Verbindlich für Anbieter von KI-Modellen mit systemischem Risiko ist in der EU dagegen Artikel 55 der KI-Verordnung. Seit dem 2. August 2026 kann die EU-Kommission bei Verstößen Geldbußen von bis zu 3 % des weltweiten Jahresumsatzes verhängen.[4] Prüfen Sie deshalb gerne, ob Ihre Verträge mit KI-Anbietern auf diese Pflichten verweisen statt auf eine Selbstverpflichtung.
Konkret wirkt die China-Regel, die Amodei als Beleg nennt. Seit September 2025 schließt Anthropic Firmen aus, die direkt oder indirekt zu mehr als 50 % Unternehmen mit Sitz in China gehören, unabhängig vom eigenen Standort.[5] Deutsche Töchter, die mehrheitlich chinesischen Konzernen gehören, dürfen Claude damit nicht nutzen. Klären Sie am besten mit Ihrer Rechtsabteilung, ob Ihre Eigentümerstruktur unter die Regel fällt, bevor Sie Arbeitsabläufe auf Claude umstellen.
FAQ: Dario Amodei und die Kritik an Anthropic
Wer ist Dario Amodei?
Dario Amodei ist Mitgründer und Chef von Anthropic, dem Unternehmen hinter dem KI-Assistenten Claude. Zuvor leitete der promovierte Biophysiker die Forschung bei OpenAI. Anthropic gründete er 2021 zusammen mit seiner Schwester Daniela Amodei und weiteren früheren OpenAI-Beschäftigten.
Wer ist Nathan Calvin?
Nathan Calvin ist Strategiechef von Encode AI, einer gemeinnützigen Organisation aus den USA, die sich für Regeln zur KI-Sicherheit einsetzt. Am 19. Oktober 2026 veröffentlichte er auf X eine Liste mit neun Schritten von Anthropic, die aus seiner Sicht Tempo vor Sicherheit stellen.
Was meint Amodei mit dem Wettlauf nach oben?
Amodei meint damit, dass Anthropic vormacht, wie sich KI verantwortungsvoll entwickeln lässt, und die Konkurrenz so unter Druck setzt, nachzuziehen. Nach seiner Darstellung wirkt dieser Druck nur, wenn Anthropic selbst zu den führenden KI-Firmen gehört.
Welche Fehler räumt Amodei ein?
Amodei räumt ein, dass Anthropic drei von Calvins Punkten geschickter hätte angehen können: einen später zurückgenommenen Brief an den US-Kongress, eine Äußerung nach dem Gipfel im Weißen Haus und den Gesetzentwurf. Ein zweites Regelwerk, mit dem Anthropic gesetzliche Pflichten erfüllt, will er prüfen.
Quellen
5 Quellen anzeigenQuellen ausblenden
- Dario AmodeiAntwort an Nathan Calvin auf X (englisch)
- Nathan CalvinBeitrag zu Anthropic auf X (englisch)
- The Wall Street JournalBericht über den Entwurf des Börsenprospekts von Anthropic (englisch, hinter Bezahlschranke)
- Amtsblatt der EUVerordnung (EU) 2024/1689 über künstliche Intelligenz, Artikel 55, 101 und 113
- AnthropicUpdating restrictions of sales to unsupported regions (englisch)
Mehr Newshunger?
- Anthropic macht 80 Mrd. Dollar Verlust in sechs Monaten
- Eric Schmidts Anthropic-Anteil könnte bis zu 17 Milliarden Euro wert werden
- Anthropic will 5 Prozent seiner Aktien in einen Fonds für das Gemeinwohl geben
- Altman skizziert drei Wege zur sicheren Superintelligenz
- „Wir müssen die Labore schließen“: Jensen Huang setzt bei KI auf Haftung statt Gesetze
- Anthropic pausiert riskantes KI-Training nach eigenmächtigen Claude-Aktionen
- Anthropic Geschäftsmodell: 30 Mrd. Umsatz in 14 Monaten
- Alle Meldungen über die Tech-Titanen
