Artikel teilen

Das Center for AI Safety hat mit Wissenschaftlern und Unternehmern die MisAnthropic-Erklärung veröffentlicht, die Anthropic ein unverdientes Sicherheitsimage vorwirft. Unterzeichnet haben Menschen, die sich sonst selten einig sind, vom Harvard-Psychologen Steven Pinker bis zum xAI-Mitgründer Igor Babuschkin.

Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügen
Inhalt 5 Abschnitte
  1. Was wirft die Erklärung Anthropic vor?
  2. Was steht in Anthropics eigener Richtlinie?
  3. Wie neu ist die Kritik?
  4. Was heißt das für Anleger und Kunden im DACH-Raum?
  5. Mehr Newshunger?

Das Center for AI Safety (CAIS) hat am 18. November die MisAnthropic-Erklärung veröffentlicht, in der es Anthropic als unsicheres KI-Unternehmen bezeichnet.[1][2] Hinter ihr steht eine Koalition aus Sicherheitsforschern, Open-Source-Vertretern, Ethikern und Befürwortern schneller KI-Entwicklung. Anthropic soll ab dem 19. November an der Nasdaq gehandelt werden.

Auf einen Blick

Das Wichtigste in Kürze

  • Die Erklärung wirft Anthropic vor, vor sich selbst verbessernder KI zu warnen und sie dennoch als Erster zu bauen.[2]
  • Unterzeichnet haben unter anderem die Nobelpreisträger Oliver Hart und Sheldon Glashow sowie Turing-Preisträger Judea Pearl.[2]
  • Anthropic hat seine Sicherheitsrichtlinie im Februar auf öffentliche, unverbindliche Ziele umgestellt.[3]
  • Schon im Oktober hatte New Yorks Rechnungsprüfer Anthropic gebeten, den Börsengang aufzuschieben.[4]

Was wirft die Erklärung Anthropic vor?

Oranger Karton mit Aufkleber „Sicher“ und eine Lupe auf beigefarbenem Hintergrund
Anthropic warnt vor selbstverbessernden KI-Systemen, die sich der Kontrolle entziehen könnten, baut sie aber trotzdem. Das Sicherheitsimage dient der Akquisition von Investoren und Personal

Anthropic warne und baue zugleich, heißt es in der Erklärung: Eine KI, die sich rekursiv selbst verbessert, könne Macht an sich ziehen und sich menschlicher Kontrolle entziehen, und das Unternehmen baue sie trotzdem als Erster.[2] Gemeint ist eine Entwicklung, in der jedes Modell das nächste verbessert. Mit seinem Sicherheitsimage werbe Anthropic um Investoren und Beschäftigte.

Laut CAIS hat Anthropic im Februar seine Responsible Scaling Policy geschwächt und die Zusage aufgegeben, die Entwicklung notfalls auch allein zu stoppen. Außerdem habe es sich laut CAIS dafür eingesetzt, SB 1047, den RAISE Act und den AEGIS Act abzuschwächen, und statt einzelstaatlicher KI-Gesetze eine bundesweite Regelung gefordert.[1] CAIS-Chef Dan Hendrycks sagt: „Man kann nicht glaubhaft behaupten, sicher zu sein, und zugleich die eigenen früheren Sicherheitszusagen aufweichen und die Öffentlichkeit um zweistellige Milliardenbeträge für rekursiv selbstverbessernde KI bitten.“[1]

Was steht in Anthropics eigener Richtlinie?

Anthropic hat die Änderung am 24. Februar selbst veröffentlicht: Aus festen Pflichten wurden Ziele, die „unverbindlich, aber öffentlich erklärt“ sind.[3] Die dritte Fassung trennt außerdem, was das Unternehmen allein umsetzen will, von dem, was die ganze Branche leisten müsste. Als Grund nennt Anthropic, strengere Sicherheitsstufen seien allein kaum erreichbar, und die Politik gewichte Wettbewerbsfähigkeit höher.[3]

Als Messlatte dienen künftig Risikoberichte alle drei bis sechs Monate, in bestimmten Fällen mit externer Prüfung.[3] Das Centre for the Governance of AI wertete den Wegfall der Pausenzusage zunächst negativ, sah in den Berichten aber mehr Transparenz, die aber weiter auf Angaben des Unternehmens beruhe.[5]

Die Kritik an Anthropic vor dem Börsengang
Wer unterzeichnet hat, was die Erklärung belegen will und wie die Kritik gewachsen ist
3
Fields-Medaillenträger unter den Unterzeichnern
2
Nobelpreisträger für Wirtschaft und Physik
3
Gesetzesvorhaben, die Anthropic laut Erklärung abgeschwächt haben soll
283 Mrd. €
Vermögen der New Yorker Pensionsfonds, deren Verwalter den Börsengang aufschieben wollte
Vier Wegmarken der Debatte
24. Februar
Anthropic veröffentlicht die dritte Fassung seiner Sicherheitsrichtlinie
12. September
Amodei fordert in einem Essay, das Tempo der KI-Entwicklung zu drosseln
14. Oktober
New Yorks Rechnungsprüfer bittet Anthropic, den Börsengang auszusetzen
18. November
CAIS veröffentlicht die MisAnthropic-Erklärung

Sicherheit ist bei Anthropic Teil der Marke und Teil des Prospekts. Das macht sie für Anleger prüfbar.

Michael Dobler, Herausgeber Dr. Web
Zitat teilen

Wie neu ist die Kritik?

Am 14. Oktober bat New Yorks Rechnungsprüfer Mark Levine, der die städtischen Pensionsfonds mit über 325 Mrd. Dollar (283 Mrd. €) verwaltet, Anthropic in einem Brief, den Börsengang auszusetzen.[4] Er berief sich auf Dario Amodeis Essay „We Must Pace the Frontier“ vom 12. September und den Risikoabschnitt des Prospekts, der laut Presseberichten rund 80 Seiten umfasst.[4] Die Kritiker stützen sich auf Anthropics eigene Warnungen, etwa zur Selbstverbesserung.

Unter den Unterzeichnern sind auch Gründer von Wettbewerbern und Open-Source-Anbietern, darunter Thomas Wolf von Hugging Face und Babuschkin.[1] Anleger dürften die Erklärung deshalb auch als Lobbyarbeit von Konkurrenten lesen. Amodei selbst hatte im Oktober Fehler eingeräumt.

Was heißt das für Anleger und Kunden im DACH-Raum?

Die Erklärung ist die Position einer Interessengruppe, keine Entscheidung einer Behörde oder eines Gerichts, und sie ändert weder den Prospekt noch Verträge. Anleger sollten die Risikofaktoren im Prospekt selbst lesen.[6] Unternehmen, die Claude einsetzen, sollten Anthropics Sicherheitsversprechen an den Risikoberichten messen.[3]

Quellen

6 Quellen anzeigenQuellen ausblenden
  1. Center for AI Safety: „Anthropic is Not a Safe AI Company“ – Broad Coalition of Scientists, Legal Scholars, and Tech Leaders Challenge Anthropic’s Safety Branding Ahead of IPO (Pressemitteilung)18.11.2026
  2. The MisAnthropic Statement, Wortlaut und Unterzeichnerliste (abgerufen am 18. November 2026)
  3. Anthropic: „Anthropic’s Responsible Scaling Policy: Version 3.0“24.02.2026
  4. Office of the New York City Comptroller: „Letter to Anthropic Re: Planned Initial Public Offering“14.10.2026
  5. Centre for the Governance of AI: „Anthropic’s RSP v3.0: How it Works, What’s Changed, and Some Reflections“ (Analyse)
  6. Anthropic PBC: Registrierungsantrag Form S-1, Amendment No. 3 (17. November 2026, SEC EDGAR)

Mehr Newshunger?

4,3 21 Bewertungen

Wie hat Ihnen dieser Artikel gefallen?

Dr. Web Newsletter

Jede Woche ein bisschen klüger.

Der Dr. Web Newsletter: die besten Artikel, Anbieter-Tipps und neue Tools, kompakt zusammengefasst, jeden Donnerstag. Kostenlos und jederzeit abbestellbar.