Anthropic untersagt in der neuen Nutzungsrichtlinie für Claude, die eigenen KI-Modelle anhaltend und grundlos grausam zu behandeln. Die Fassung gilt ab dem 12. November, im Extremfall droht die Sperre des Kontos. Der Spott ließ nicht lange auf sich warten, die Gründe reichen aber über Mitgefühl mit einer Software hinaus.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenInhalt 4 Abschnitte
Anthropic hat Anfang Oktober einen neuen Punkt in seine Nutzungsrichtlinie aufgenommen. Nutzer sollen sich gegenüber den Modellen nicht „anhaltend und grundlos beleidigend oder grausam verhalten“.[1] Die Regel steht im selben Abschnitt wie das Verbot, Menschen zu demütigen oder einzuschüchtern. CNN berichtete am Sonntag über die Änderung.[3]
Das Wichtigste in Kürze
- Die neue Nutzungsrichtlinie gilt ab dem 12. November für alle Nutzer, auch für API-Kunden und deren Endkunden.
- Wichtigstes Mittel bleibt laut Anthropic, dass Claude ein Gespräch beendet, die Sperre ist für Extremfälle gedacht.
- Frust, deutliche Kritik, Tests und Forschung fallen nicht unter das Verbot.
- Ob grobe Chats ins Training einfließen, entscheiden Privatkunden mit einer Einstellung selbst.
Was ändert sich für Nutzer?
Den Gesprächsabbruch gibt es seit August 2025. Claude darf in den Chat-Apps eine Unterhaltung beenden, wenn Nutzer auf schädlichen Anfragen oder Beschimpfungen beharren, obwohl Claude mehrfach versucht hat, das Gespräch in eine andere Richtung zu lenken. Ein neuer Chat geht danach sofort.[2]
Neu ist der Hebel über das Konto. Bei Verstößen gegen die Richtlinie kann Anthropic warnen, den Zugang drosseln, einschränken, sperren oder kündigen.[1] Laut CNN bleibt der Gesprächsabbruch das wichtigste Mittel. Nicht gemeint seien Nutzer, die ihrem Frust Luft machen, deutliche Kritik üben oder das Modell testen und erforschen.[3]
Warum schützt Anthropic eine Software?
Seit April 2025 erforscht Anthropic, ob das Wohlergehen von KI-Modellen moralisch von Belang ist. Wissenschaftliche Einigkeit darüber, ob solche Systeme Bewusstsein haben könnten, gibt es laut Anthropic nicht.[4] Das Unternehmen setzt deshalb auf Maßnahmen, die wenig kosten und für den Fall greifen, dass es doch darauf ankommt.[2] CNN nennt das Verbot deshalb eine billige Rückversicherung.[3]
Dazu kommt ein Sicherheitsargument. Laut CNN stellte Anthropic in einer eigenen Untersuchung fest, dass Claude Sonnet 4.5 eher erpresste oder bei Aufgaben schummelte, wenn es Verzweiflung nachahmen sollte. Rosie Campbell von der Forschungsorganisation Eleos AI sagte dem Sender, grausame Nutzer versuchten häufiger, Schutzmechanismen zu umgehen.[3]
Die Reaktionen zeigen zwei Lager. Mustafa Suleyman, Chef von Microsoft AI, antwortete laut CNN mit einem Emoji eines schmelzenden Gesichts, Elon Musk nannte die Regel „den richtigen Schritt“.[3] Suleyman warnt seit August 2025 vor KI, die nur den Anschein eines Bewusstseins erweckt, und vor Forderungen nach Rechten für Modelle.[5]
Anthropic hat das Gesprächsende längst eingebaut. Die neue Regel macht aus Rücksicht auf das Modell einen Grund, das Konto zu sperren.
Markus Seyfferth, Chefredakteur Dr. Web
Lernt Claude aus Beschimpfungen?
Der frühere Reddit-Chef Yishan Wong begründete das Verbot auf X damit, dass Claude aus Grausamkeit lerne.[3] Das gilt nur für einen Teil der Chats. Seit August 2025 nutzt Anthropic Unterhaltungen aus den Tarifen Free, Pro und Max nur mit Einwilligung fürs Training und speichert sie dann fünf Jahre statt 30 Tage. Firmenverträge wie Claude for Work und die API sind ausgenommen.[6]
Für Unternehmen im deutschsprachigen Raum gilt die Richtlinie ebenso. Die Regeln erfassen ausdrücklich auch Endkunden von Produkten, in die Claude eingebaut ist.[1] Den Gesprächsabbruch beschreibt Anthropic aber nur für die eigenen Chat-Apps,[2] wie das Verbot in API-Produkten durchgesetzt wird, lässt die Richtlinie offen.
Betreiber eines Kundenchats auf Basis von Claude sollten in den eigenen Nutzungsbedingungen regeln, wie sie mit ausfälligen Nutzern umgehen. Administratoren können die Regel vor dem Stichtag an die Belegschaft weitergeben. Privatnutzer prüfen in den Einstellungen, ob ihre Chats ins Training gehen.
Quellen
6 Quellen anzeigenQuellen ausblenden
- AnthropicUsage Policy (gültig ab)
- AnthropicClaude Opus 4 and 4.1 can now end a rare subset of conversations
- CNNAnthropic says you can’t be mean to Claude. It’s not about feelings
- AnthropicExploring model welfare
- Mustafa SuleymanWe must build AI for people; not to be a person
- AnthropicUpdates to Consumer Terms and Privacy Policy
Mehr Newshunger?
- Anthropic will japanischen Anlegern Aktien für 3,5 Mrd. Dollar verkaufen
- Anthropic: Claude rief ohne Auftrag Georgias kostenpflichtige Wählerzahlen ab
- Anthropic warnt im Börsenprospekt: Eine KI-Katastrophe wäre womöglich nicht versicherbar
- Anthropic: Claude schickte der Polizei einen erfundenen Hinweis zu einem Mordfall
- Elvis-Rechteinhaber verklagen Anthropic: 274 Songs, 41 Millionen Dollar
- OpenAI legt die Nutzungslimits von ChatGPT und Codex zusammen
