Anthropic könnte nach eigener Einschätzung bald eine Schwelle erreichen, die das Unternehmen in seiner Sicherheitsrichtlinie für stark beschleunigten KI-Fortschritt festgelegt hat. Das steht in der geänderten Fassung des Börsenprospekts, die Anthropic am Montag bei der US-Börsenaufsicht SEC eingereicht hat. Gemeint ist eine KI, die ihre Nachfolger zu großen Teilen selbst entwickelt.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenInhalt 4 Abschnitte
Aufgefallen war die Passage zuerst dem US-Portal TechCrunch.[1] Im Abschnitt zu den Risikofaktoren heißt es nun, interne Schätzungen und Erwartungen an künftige Modelle deuteten darauf hin, dass Anthropic die Definition für „stark beschleunigten, auf KI zurückzuführenden Fortschritt“ bald erfüllen könnte. Keines der aktuellen Modelle liege über dieser Schwelle, die Daten würden weiter geprüft.[2]
Das Wichtigste in Kürze
- Anthropic hält es laut geändertem Börsenprospekt für möglich, die eigene Schwelle für stark beschleunigten KI-Fortschritt bald zu erreichen.
- Neu ist das Eingeständnis, eine solche Beschleunigung früher erst im Nachhinein bemerkt zu haben.
- Im September 2026 schrieb Claude laut Prospekt mehr als 90 % der Code-Änderungen bei Anthropic.
- Anthropic erwägt eine Änderung seiner Richtlinie, damit Menschen die Kontrolle über die Modellentwicklung behalten.
Was hat Anthropic im Prospekt geändert?
Schon die erste Fassung vom 26. Oktober warnte, dass die Fähigkeiten der Modelle schneller wachsen könnten als die Sicherheitsmaßnahmen, wenn Anthropic KI in der eigenen Forschung einsetzt. Das Tempo lasse sich nur an Kennzahlen ablesen, die eine Entwicklung im Nachhinein zeigen.[3] Neu ist der Satz, dass Anthropic eine deutliche Beschleunigung in der Vergangenheit erst bemerkt hat, als sie schon eingetreten war.[2]
Ebenfalls neu ist eine Absage an vollständig autonome Entwicklung. Anthropic rechnet nicht damit, Claude künftige Spitzenmodelle ohne nennenswerte menschliche Aufsicht sicher entwickeln lassen zu können, selbst wenn das technisch möglich würde. Bestimmte Entscheidungen in Forschung und Entwicklung sollen deshalb künftig nur nach Prüfung und Freigabe durch Menschen fallen.[2]
Warnt ein Anbieter vor dem eigenen Tempo, gehört die Messung nicht allein in seine Hände.
Markus Seyfferth, Chefredakteur Dr. Web
Wo liegt die Schwelle?
Die Responsible Scaling Policy ist Anthropics freiwillige Sicherheitsrichtlinie, gültig ist Version 3.4 vom 8. Juli 2026. Die Schwelle für automatisierte KI-Forschung gilt dort als erreicht, wenn die Modelle das gesamte Forschungspersonal zu vergleichbaren Kosten ersetzen könnten oder wenn sich der KI-Fortschritt verdoppelt und das wahrscheinlich an automatisierter Forschung liegt. Verdoppeln heißt: so viel Fortschritt in einem Jahr wie sonst in zwei.[4] Die Schwelle soll laut Anthropic den Beginn einer sich selbst verstärkenden Entwicklung erfassen, in der jedes Modell das nächste verbessert, und hat sich als schwer messbar erwiesen.[4]
Wie stark Claude schon mitarbeitet, zeigt der Prospekt. Der Wert der internen Claude-Nutzung zu Listenpreisen stieg von Januar bis September 2026 auf mehr als das 250-Fache. Im April übertraf er erstmals die monatlichen Personalkosten ohne anteilsbasierte Vergütung.[2]
Was bedeutet das für Unternehmen und Anleger in Europa?
Überschreitet ein Modell die Schwelle und veröffentlicht Anthropic den Risikobericht dazu stark geschwärzt, verlangt die Richtlinie eine Prüfung durch externe Gutachter.[4] Diese Selbstverpflichtung kann Anthropic jederzeit ändern. Verbindlich ist in der EU dagegen Artikel 55 der KI-Verordnung: Anbieter von KI-Modellen mit systemischem Risiko müssen ihre Modelle prüfen, Risiken mindern und schwerwiegende Vorfälle an das europäische Büro für Künstliche Intelligenz melden. Seit dem 2. August 2026 kann die EU-Kommission bei Verstößen Geldbußen von bis zu 3 % des weltweiten Jahresumsatzes verhängen.[5]
Die neuen Risikofaktoren lesen auch Anleger in Europa: Anthropic bietet seine Aktien laut Prospekt öffentlich in Teilen des Europäischen Wirtschaftsraums an.[2] Die Geschäftszahlen aus derselben Fassung beschreibt unser Artikel zum Verlust im dritten Quartal. Von einer solchen Selbstverbesserung hatte im Oktober auch Google-Mitgründer Sergey Brin gesprochen, Googles Sicherheitsbericht maß damals aber keine Beschleunigung.
Quellen
5 Quellen anzeigenQuellen ausblenden
Mehr Newshunger?
- Anthropic rutscht im dritten Quartal trotz 17 Mrd. Dollar Umsatz in die Verlustzone
- Anthropic will japanischen Anlegern Aktien für 3,5 Mrd. Dollar verkaufen
- Sergey Brin sieht Gemini auf dem Weg zur Selbstverbesserung, Googles Sicherheitsbericht misst kein höheres Tempo
- Amodei räumt Fehler ein, hält aber an Anthropics Wettlauf fest
- Mustafa Suleyman will die KI-Entwicklung stoppen, falls Modelle ein Bewusstsein entwickeln
