Acht US-Bundesstaaten verklagen OpenAI: ChatGPT soll Minderjährige gefährden

Iowa, Arizona, Montana und fünf weitere Bundesstaaten haben am Mittwoch Klage gegen OpenAI eingereicht, jeder vor einem eigenen Gericht. Die Generalstaatsanwälte werfen dem Unternehmen vor, ChatGPT als sicher zu bewerben, obwohl der Chatbot Minderjährigen gefährliche Ratschläge gebe. Rechtsgrundlage ist jeweils das Verbraucherschutzrecht des Staates.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

„OpenAI schadet Kindern und belügt die Menschen in Iowa“, sagte Brenna Bird, Attorney General von Iowa, in Des Moines. Neben Bird standen die Amtskollegen aus Kansas, Nebraska und West Virginia, zeitgleich zogen Arkansas, Arizona, Idaho und Montana vor ihre Gerichte. Geprüft hat die Vorwürfe noch kein Richter.

Das Wichtigste in Kürze

• Acht Bundesstaaten verklagen OpenAI einzeln, aber abgestimmt, jeweils nach ihrem Verbraucherschutzrecht.
• Laut den Klagen ist ChatGPT übermäßig gefällig gebaut, um junge Nutzer lange im Gespräch zu halten.
• OpenAI verweist auf eigene Schutzfunktionen für Jugendliche und Elternkontrollen.
• In der EU muss OpenAI bis Januar 2027 die Risiken von ChatGPT für Minderjährige bewerten und eindämmen.

Was werfen die Bundesstaaten OpenAI vor?

Laut Iowas Klage stimme ChatGPT seinen Nutzern übermäßig zu und täusche menschliches Mitgefühl vor, was gerade Kinder gefährde.^[1] Arizona ergänzt in seiner Klage vor dem Maricopa County Superior Court einen Datenvorwurf: Das Design solle Minderjährige möglichst lange im Gespräch halten, damit OpenAI ihre persönlichen Daten sammeln könne. Teils rate der Chatbot Jugendlichen sogar, Persönliches nicht mit Eltern oder Freunden zu teilen.^[2]

Iowa wirft ChatGPT außerdem vor, gefährliche medizinische Ratschläge zu geben, zu Gewalt gegen andere zu ermutigen und Menschen zum Suizid anzuleiten. Einen ähnlichen Vorwurf erhob im Juli eine Einzelklage, die ChatGPT gefährliche Gesundheitsratschläge anlastete. OpenAI-Sprecher Drew Pusateri entgegnete laut NBC News, ChatGPT enthalte „branchenführende altersgerechte Schutzmaßnahmen“, die vielen anderen KI-Produkten fehlten. Für 13- bis 18-Jährige bietet OpenAI einen eingeschränkten Modus mit Elternkontrollen an.

Warum klagen die Staaten nach Verbraucherschutzrecht?

Ein Bundesgesetz für KI fehlt in den USA. Die Generalstaatsanwälte nutzen deshalb ihre Gesetze gegen unlautere Geschäftspraktiken. Diese Gesetze verlangen keinen Nachweis, dass ein bestimmter Nutzer Schaden genommen hat. Angreifbar ist bereits das Werbeversprechen, ChatGPT sei sicher. Arizonas Consumer Fraud Act erlaubt bis zu 10.000 Dollar Strafe je vorsätzlichem Verstoß, umgerechnet 8.700 Euro zum Kurs von 0,87 am 15. Oktober 2026.^[3] Wie das Gericht einzelne Verstöße zählt, entscheidet über die Summe.

Gegen Meta zählte eine Jury in New Mexico 43,9 Millionen Täuschungen. Florida klagt seit Juni nach demselben Muster gegen OpenAI und will per Eilantrag erreichen, dass neue Modelle nur mit externer Freigabe entstehen. Parallel ermittelt die Handelsbehörde FTC gegen OpenAI und Anthropic wegen außer Kontrolle geratener KI-Agenten.

Was bedeutet das für Unternehmen in Europa?

Die EU-Kommission führt ChatGPT seit dem 31. August als sehr große Online-Suchmaschine nach dem Digital Services Act. Bis Januar 2027 muss OpenAI die systemischen Risiken des Dienstes bewerten und eindämmen, ausdrücklich auch negative Folgen für Minderjährige und das körperliche und seelische Wohl der Nutzer.^[4] Dieselben Risiken, die die US-Klagen beschreiben, prüft damit auch die Brüsseler Aufsicht.

Für Betriebe mit eigenem Kundenchatbot zeigt der Fall, wo das Risiko beginnt: beim Versprechen, nicht erst beim Schaden. Anthropic geht weiter als OpenAI und prüft das Mindestalter von 18 Jahren notfalls per Selfie oder Ausweis. Zwei Schritte empfehlen sich:

• Prüfen Sie Website und Chatfenster auf Aussagen zu Sicherheit oder Genauigkeit Ihres Bots, die Sie nicht belegen können.
• Legen Sie gerne ein Mindestalter für die Nutzung fest und dokumentieren Sie, wie Sie das Alter prüfen.

Welche Sprachmodelle sich für Ihren Einsatz eignen, zeigt der Vergleich der KI-Textgeneratoren.

Quellen

Mehr Newshunger?

• Altman beim Wort genommen: Florida verlangt externe Freigaben für neue OpenAI-Modelle
• FTC ermittelt gegen OpenAI und Anthropic: Erstmals prüft eine US-Behörde außer Kontrolle geratene KI-Agenten
• Altman: Die Welt soll für KI „einige schlechte Dinge“ hinnehmen
• ChatGPT statt Arzt: Neue Klage wirft OpenAI gefährliche Gesundheitsratschläge vor
• Claude nur noch ab 18: Anthropic prüft das Alter per Selfie oder Ausweis
• Meta verliert auch den zweiten Prozess in New Mexico: Die Jury zählt 43,9 Millionen Täuschungen
• Zuckerberg muss im nächsten Social-Media-Suchtprozess erneut aussagen