Das Center for AI Safety hat mit Wissenschaftlern und Unternehmern die MisAnthropic-Erklärung veröffentlicht, die Anthropic ein unverdientes Sicherheitsimage vorwirft. Unterzeichnet haben Menschen, die sich sonst selten einig sind, vom Harvard-Psychologen Steven Pinker bis zum xAI-Mitgründer Igor Babuschkin.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenInhalt 5 Abschnitte
Das Center for AI Safety (CAIS) hat am 18. November die MisAnthropic-Erklärung veröffentlicht, in der es Anthropic als unsicheres KI-Unternehmen bezeichnet.[1][2] Hinter ihr steht eine Koalition aus Sicherheitsforschern, Open-Source-Vertretern, Ethikern und Befürwortern schneller KI-Entwicklung. Anthropic soll ab dem 19. November an der Nasdaq gehandelt werden.
Das Wichtigste in Kürze
- Die Erklärung wirft Anthropic vor, vor sich selbst verbessernder KI zu warnen und sie dennoch als Erster zu bauen.[2]
- Unterzeichnet haben unter anderem die Nobelpreisträger Oliver Hart und Sheldon Glashow sowie Turing-Preisträger Judea Pearl.[2]
- Anthropic hat seine Sicherheitsrichtlinie im Februar auf öffentliche, unverbindliche Ziele umgestellt.[3]
- Schon im Oktober hatte New Yorks Rechnungsprüfer Anthropic gebeten, den Börsengang aufzuschieben.[4]
Was wirft die Erklärung Anthropic vor?

Anthropic warne und baue zugleich, heißt es in der Erklärung: Eine KI, die sich rekursiv selbst verbessert, könne Macht an sich ziehen und sich menschlicher Kontrolle entziehen, und das Unternehmen baue sie trotzdem als Erster.[2] Gemeint ist eine Entwicklung, in der jedes Modell das nächste verbessert. Mit seinem Sicherheitsimage werbe Anthropic um Investoren und Beschäftigte.
Laut CAIS hat Anthropic im Februar seine Responsible Scaling Policy geschwächt und die Zusage aufgegeben, die Entwicklung notfalls auch allein zu stoppen. Außerdem habe es sich laut CAIS dafür eingesetzt, SB 1047, den RAISE Act und den AEGIS Act abzuschwächen, und statt einzelstaatlicher KI-Gesetze eine bundesweite Regelung gefordert.[1] CAIS-Chef Dan Hendrycks sagt: „Man kann nicht glaubhaft behaupten, sicher zu sein, und zugleich die eigenen früheren Sicherheitszusagen aufweichen und die Öffentlichkeit um zweistellige Milliardenbeträge für rekursiv selbstverbessernde KI bitten.“[1]
Was steht in Anthropics eigener Richtlinie?
Anthropic hat die Änderung am 24. Februar selbst veröffentlicht: Aus festen Pflichten wurden Ziele, die „unverbindlich, aber öffentlich erklärt“ sind.[3] Die dritte Fassung trennt außerdem, was das Unternehmen allein umsetzen will, von dem, was die ganze Branche leisten müsste. Als Grund nennt Anthropic, strengere Sicherheitsstufen seien allein kaum erreichbar, und die Politik gewichte Wettbewerbsfähigkeit höher.[3]
Als Messlatte dienen künftig Risikoberichte alle drei bis sechs Monate, in bestimmten Fällen mit externer Prüfung.[3] Das Centre for the Governance of AI wertete den Wegfall der Pausenzusage zunächst negativ, sah in den Berichten aber mehr Transparenz, die aber weiter auf Angaben des Unternehmens beruhe.[5]
Sicherheit ist bei Anthropic Teil der Marke und Teil des Prospekts. Das macht sie für Anleger prüfbar.
Michael Dobler, Herausgeber Dr. Web
Wie neu ist die Kritik?
Am 14. Oktober bat New Yorks Rechnungsprüfer Mark Levine, der die städtischen Pensionsfonds mit über 325 Mrd. Dollar (283 Mrd. €) verwaltet, Anthropic in einem Brief, den Börsengang auszusetzen.[4] Er berief sich auf Dario Amodeis Essay „We Must Pace the Frontier“ vom 12. September und den Risikoabschnitt des Prospekts, der laut Presseberichten rund 80 Seiten umfasst.[4] Die Kritiker stützen sich auf Anthropics eigene Warnungen, etwa zur Selbstverbesserung.
Unter den Unterzeichnern sind auch Gründer von Wettbewerbern und Open-Source-Anbietern, darunter Thomas Wolf von Hugging Face und Babuschkin.[1] Anleger dürften die Erklärung deshalb auch als Lobbyarbeit von Konkurrenten lesen. Amodei selbst hatte im Oktober Fehler eingeräumt.
Was heißt das für Anleger und Kunden im DACH-Raum?
Die Erklärung ist die Position einer Interessengruppe, keine Entscheidung einer Behörde oder eines Gerichts, und sie ändert weder den Prospekt noch Verträge. Anleger sollten die Risikofaktoren im Prospekt selbst lesen.[6] Unternehmen, die Claude einsetzen, sollten Anthropics Sicherheitsversprechen an den Risikoberichten messen.[3]
Quellen
6 Quellen anzeigenQuellen ausblenden
- Center for AI Safety: „Anthropic is Not a Safe AI Company“ – Broad Coalition of Scientists, Legal Scholars, and Tech Leaders Challenge Anthropic’s Safety Branding Ahead of IPO (Pressemitteilung)
- The MisAnthropic Statement, Wortlaut und Unterzeichnerliste (abgerufen am 18. November 2026)
- Anthropic: „Anthropic’s Responsible Scaling Policy: Version 3.0“
- Office of the New York City Comptroller: „Letter to Anthropic Re: Planned Initial Public Offering“
- Centre for the Governance of AI: „Anthropic’s RSP v3.0: How it Works, What’s Changed, and Some Reflections“ (Analyse)
- Anthropic PBC: Registrierungsantrag Form S-1, Amendment No. 3 (17. November 2026, SEC EDGAR)
Mehr Newshunger?
- Anthropic sieht sich kurz vor der eigenen Schwelle für KI, die ihre Nachfolger selbst baut
- Amodei räumt Fehler ein, hält aber an Anthropics Wettlauf fest
- Anthropic peilt Ausgabepreis von mindestens 78 Dollar an
- Dario Amodei verdiente 2025 rund 15,7 Millionen Euro, die Gründer behalten mit einer Aktie die Kontrolle
- Anthropic kann ab Dienstag Anleger für den Börsengang umwerben
- Hedgefonds Coatue hält Anthropic-Anteil von 10 Mrd. Dollar
