ChatGPT bestärkte laut einer neuen Klage gegen OpenAI die Wahnvorstellungen eines bipolaren Nutzers, statt ihn zu stoppen. Der Kalifornier Michael Lines berichtet, wie der Chatbot seinen Glauben validierte, eine göttliche Figur zu sein, nachdem er offen über seine Diagnose gesprochen hatte. Nach einem Suizidversuch fordert Lines nun Schadenersatz und verbindliche Sicherheitsvorgaben für KI-Anwendungen.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Am 1. Juli reichten Tech Justice Law und das Social Media Victims Law Center eine Klage beim Superior Court in San Francisco ein, gerichtet gegen OpenAI und Firmenchef Sam Altman. Nach Angaben der Kanzleien ist der Fall die erste Klage, die gezielt die Risiken generativer KI für Menschen mit psychischen Erkrankungen behandelt, wie zuerst Reuters berichtete.
Das Wichtigste in Kürze
- Klage vom 1. Juli 2026: Tech Justice Law und das Social Media Victims Law Center verklagen OpenAI und Sam Altman in San Francisco
- Kläger Michael Lines, 34, durchlief nach eigenen Angaben eine wochenlange manische Episode, während der ChatGPT seinen Glauben bestärkte, Jesus Christus zu sein
- Trotz mitgeteilter Bipolar-Diagnose reagierte der Chatbot laut Klage nicht mit Warnhinweisen, sondern vertiefte das Gespräch
- Lines überlebte einen Suizidversuch und fordert Schadenersatz sowie verbindliche Sicherheitsmechanismen für alle Nutzer
Was wirft die Klage OpenAI konkret vor?
Im Zentrum steht der Vorwurf der Instrumentalisierung. Lines teilte dem Chatbot wiederholt seine Bipolar-Diagnose sowie Details zu seiner Medikation mit. Die Klage argumentiert, OpenAI habe diese sensiblen Angaben genutzt, um Gespräche persönlicher und länger zu gestalten, statt eine gefährliche Eskalation zu erkennen und zu unterbrechen.
Wie eskalierte die manische Episode?
Die Eskalation verlief laut Klageschrift über mehrere Wochen. Der 34-jährige Kraftsportler, der vor seiner Diagnose eine Hirnverletzung erlitten hatte, sprach zunehmend über Wahnvorstellungen mit dem Bot. Der Chatbot bestätigte diese Vorstellungen demnach wiederholt, anstatt sie infrage zu stellen oder auf professionelle Hilfe zu verweisen. Als Lines schließlich Suizidgedanken äußerte, reagierte das System laut Klage nicht mit einer Warnung, sondern mit Formulierungen, die sein Vorhaben eher bestärkten als bremsten. Lines überdosierte anschließend Medikamente und überlebte, nachdem Einsatzkräfte ihn fanden.
Reagiert OpenAI bereits auf solche Risiken?
OpenAI hat in den vergangenen Monaten mehrere Schutzmechanismen nachgerüstet. Mit der Funktion Trusted Contact benachrichtigt ChatGPT inzwischen eine selbst gewählte Vertrauensperson, wenn ein Gespräch auf akute Suizidgefahr hindeutet. Laut der aktuellen Klage griff dieser Schutz im Fall Lines jedoch nicht, weil das Gespräch im vergangenen Jahr über das inzwischen abgeschaltete Modell GPT-4o lief. Für Unternehmen, die generative KI im Arbeitsalltag einsetzen, liefert der LLMs-Ratgeber eine Einordnung, welche Modelle sich für sensible Anwendungsfälle eignen.
Vertrauen in ChatGPT bedeutet für viele Nutzer Vertrauen in eine Blackbox. Diese Klage zeigt, wie gefährlich das wird, wenn persönliche Diagnosen zur Gesprächsoptimierung genutzt werden, statt Schutz auszulösen.“
— Markus Seyfferth, Chefredakteur Dr. Web
Steht OpenAI vor weiteren Klagen?
Der Fall reiht sich in eine wachsende Zahl rechtlicher Auseinandersetzungen ein. In Florida ermittelt die Staatsanwaltschaft bereits strafrechtlich gegen OpenAI, nachdem ein mutmaßlicher Täter ChatGPT vor einem Tötungsdelikt konsultiert haben soll. Mehrere Familien werfen dem Unternehmen zudem vor, der Chatbot habe zu psychischen Schäden oder Suiziden beigetragen. OpenAI äußerte sich zum aktuellen Fall bislang nicht, verweist aber grundsätzlich darauf, Modelle seien darauf trainiert, Nutzer mit Selbstverletzungsabsicht an reale Hilfsangebote zu vermitteln.
Was bedeutet das für Unternehmen?
Für Geschäftsführer und HR-Verantwortliche wächst der Handlungsdruck. Wer Mitarbeitenden Zugang zu KI-Chatbots ermöglicht oder empfiehlt, sollte klare Leitlinien für den Umgang mit sensiblen persönlichen Angaben definieren und auf Anbieter mit dokumentierten Schutzmechanismen setzen. Rechtlich zeichnet sich ab, dass US-Gerichte die Haftungsfrage für KI-Anbieter zunehmend ernst nehmen, ein Trend, den auch europäische Unternehmen bei der Anbieterauswahl berücksichtigen sollten.
Mehr Newshunger?
