Anthropic hat am Montag seinen Börsenprospekt bei der US-Börsenaufsicht SEC öffentlich gemacht und warnt darin vor einem katastrophalen KI-Vorfall, für den womöglich die ganze Versicherungsbranche zu klein wäre. Für Firmen, die Claude in eigene Produkte einbauen, kommt ab dem 9. Dezember die neue EU-Produkthaftung hinzu, die auch KI-Software erfasst.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenAuf 94 Seiten beschreibt Anthropic die Risiken, von Seite 26 bis Seite 119.[1] Gehandelt werden soll die Aktie an der Nasdaq unter dem Kürzel ANT, Preisspanne und Aktienzahl fehlen noch. Laut Wall Street Journal plant Anthropic den Handelsstart in der Woche ab dem 16. November.[2]
Das Wichtigste in Kürze
- Die Haftungsbeschränkungen in den eigenen Nutzungsbedingungen könnten laut Prospekt vor Gericht keinen Bestand haben.
- Externe Prüfer seiner Modelle stellt Anthropic in einigen Verträgen ohne Obergrenze von Ansprüchen Dritter frei.
- Im ersten Halbjahr setzte Anthropic rund 14,2 Milliarden Euro um, der operative Verlust lag bei rund 600 Millionen Euro.
- Ab dem 9. Dezember gilt in der EU eine neue Produkthaftung, die Software und KI-Systeme ausdrücklich erfasst.
Was schreibt Anthropic über Haftung und Versicherung?
Richten die Modelle erheblichen Schaden an, drohen laut Prospekt Schadensersatzklagen wegen Personenschäden oder Fahrlässigkeit, Behördenverfahren und strafrechtliche Ermittlungen. Haftungsbeschränkungen in den Nutzungsbedingungen sollen das abfedern, könnten vor Gericht aber unwirksam sein, räumt das Unternehmen ein.[1]
Zusätzliche Haftung übernimmt Anthropic vertraglich. Externe Prüfer, die Claude-Modelle vor der Veröffentlichung testen, stellt der Konzern von Schäden aus diesen Tests frei, in einigen Verträgen ohne Obergrenze, etwa wenn Dritte geltend machen, Inhalte der Modelle verletzten ihre Schutzrechte. Der Markt für Versicherungen gegen KI-Risiken sei jung, Deckung für manche Haftungsrisiken womöglich nur zu unwirtschaftlichen Bedingungen oder gar nicht zu bekommen.[1]
Schon im September berichteten Reuters und die Financial Times aus einem Entwurf, in dem Anthropic vor Risiken der KI für die Menschheit warnte. Die öffentliche Fassung nennt weitere Risiken durch Behörden: Die Verbraucherschutzbehörde FTC, die gegen OpenAI und Anthropic ermittelt, verlangte im Oktober Auskunft über Datenschutz und Sicherheit der Produkte.[1]
Wie versichert die Branche KI-Risiken bisher?
Die Münchener Rück deckt mit aiSure inzwischen auch Halluzinationen ab, über den Partner Mosaic mit anfänglich bis zu 15 Millionen Euro je Fall. Gemessen an Anthropics Umsatz und Verlusten bleibt diese Kapazität klein. Anthropic fürchtet laut Prospekt gerade den Fall, in dem ein einzelner Vorfall oder eine Serie von Vorfällen unverhältnismäßig großen Schaden anrichtet.[1]
Umstritten ist in der Branche, wer das Restrisiko trägt. Sam Altman meint, die Welt müsse für KI manche Schäden in Kauf nehmen. Jensen Huang setzt auf Haftung statt auf Gesetze. Baidu haftet in China für ein Strafurteil, das seine KI erfunden hatte.
Ein Risiko, für das Anthropic keine Police findet, verschwindet nicht, sondern landet beim Kunden.
Michael Dobler, Herausgeber Dr. Web
Zeitplan
Was bedeutet das für Unternehmen, die Claude einsetzen?
Die Haftungsbeschränkungen der Nutzungsbedingungen regeln, was Anthropic seinen Kunden schuldet. Für Geschädigte gilt in der EU bald die neue Produkthaftungsrichtlinie. Für Produkte, die nach dem 9. Dezember in Verkehr kommen, zählt Software als Produkt, KI-Systeme eingeschlossen.[3] Ersetzt werden Personenschäden und Schäden an privaten Sachen und Daten. Nach Artikel 15 lässt sich diese Haftung gegenüber Geschädigten weder per Vertrag beschränken noch ausschließen.[3]
Ein Unternehmen, das Claude in eine eigene App für Verbraucher einbaut, haftet damit als Hersteller, ohne Verschulden. Wie viel sich die Firma bei Anthropic zurückholt, regeln nationales Recht und Verträge.
- Erfassen Sie, in welchen Produkten für Verbraucher ein Sprachmodell steckt, mit Version und Einsatzzweck.
- Fragen Sie Ihren Haftpflicht- und Cyberversicherer schriftlich, ob Schäden durch fehlerhafte KI-Ergebnisse gedeckt sind.
- Geben Sie Schritte, die KI-Agenten für Kunden ausführen, erst nach Prüfung durch einen Menschen frei.
Quellen
3 Quellen anzeigenQuellen ausblenden
- SEC EDGARAnthropic, PBC, Registrierungserklärung Form S-1, Abschnitt „Risk Factors“ (26. Oktober 2026, englisch)
- Wall Street JournalAI Giant Anthropic Flags Risk of Catastrophic Incident in IPO Paperwork, Liveberichterstattung mit dem Eintrag „The Next Month Is Critical for Anthropic’s IPO“ (26. Oktober 2026, hinter Bezahlschranke, englisch)
- EUR-LexRichtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte, Artikel 2, 4, 6, 15 und 22
Mehr Newshunger?
- Anthropic macht 80 Mrd. Dollar Verlust in sechs Monaten
- 80 von 261 Seiten: Anthropic warnt im Börsenprospekt vor existenziellen KI-Risiken
- OpenAI will 26 Milliarden Euro einsammeln, bevor Anthropic an die Börse geht
- Elvis-Rechteinhaber verklagen Anthropic: 274 Songs, 41 Millionen Dollar
- Warum OpenAI und Anthropic ihre KI-Preise binnen Monaten um bis zu 80 Prozent senken
- KI-Textgeneratoren Vergleich 2026: Das sind die besten 25 Anbieter
