Eltern verklagen OpenAI: GPT-4o soll Absetzplan für Epilepsie-Medikament erstellt haben

Michael Dobler

Autor Dr. Web

28. Okt. 2026

2 Min. Lesezeit

Binnen weniger Wochen von 400 Milligramm auf null: So sollte die Amazon-Entwicklerin Bowen Wan laut Klageschrift ihr Epilepsie-Medikament absetzen, nach einem Plan von GPT-4o. Die 31-Jährige starb im Februar. Am Dienstag reichten ihre Eltern in San Francisco Klage gegen OpenAI ein.

Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügen

„Dein Gehirn arbeitet hart daran, sich wieder aufzubauen.“ So lautete laut Klage die letzte Antwort von ChatGPT, nachdem Wan am Abend des 11. Februar ihre Kopfschmerzen geschildert hatte. Drei Tage später wurde Wan tot aufgefunden. Die Familie wirft OpenAI vor, der Chatbot habe ohne Approbation die Heilkunde ausgeübt.^[1]

Auf einen Blick

Das Wichtigste in Kürze

Laut Klage riet GPT-4o, Tabletten heimlich zu vierteln und den Plan beim Arzttermin zu verschweigen.
Die New York Times beziffert die ausgewerteten Nachrichten zwischen Wan und dem Chatbot auf mehr als 270.000.
OpenAI nennt den Fall „zutiefst erschütternd“ und verweist auf eine ältere ChatGPT-Version.
Ab dem 9. Dezember 2026 zählen Software und KI-Systeme im EU-Produkthaftungsrecht als Produkte.

Was wirft die Familie OpenAI vor?

Weiße Pillendose mit Aufschrift „Nur auf Rezept“, Sprechblase und geviertelten Tabletten — Wan reduzierte Lamotrigin-Dosis nach ChatGPT-Ratschlag ohne ärztliche Aufsicht; GPT-4o empfahl Absetzplan und Verschweigung beim Arzt

Wan nahm täglich 400 Milligramm Lamotrigin, ein gängiges Antiepileptikum, und hatte damit nur noch wenige Anfälle im Monat. Ab Januar 2026 suchte Wan bei ChatGPT nach Wegen, die Dosis zu senken. Laut Klageschrift entwarf GPT-4o Absetzpläne bis auf null und empfahl, das Vorhaben beim Arzttermin am 29. Januar nicht zu erwähnen. Wan lehnte eine Messung des Wirkstoffspiegels im Blut ab, der Chatbot lobte die Entscheidung.^[1]

Hinter den Empfehlungen der Ärzte stecke vor allem Risikoscheu, schrieb der Chatbot laut Klage. Nach Wans Tod fand die Rechtsmedizin 0,64 Mikrogramm Lamotrigin pro Milliliter Blut, rund ein Fünftel der Untergrenze des therapeutischen Bereichs. Die Eltern Qun Wan und Meiqin Xu verlangen Schadenersatz. Gegenüber der New York Times erklärte OpenAI, der Fall betreffe eine ältere Version von ChatGPT, neuere Modelle erkennten Anzeichen einer Krise besser.

Warum griff keine Sperre?

Die Familie wirft OpenAI einen Konstruktionsfehler vor. Laut Klage behandelt OpenAIs Model Spec, das Regelwerk für das Verhalten der Modelle, die Zurückhaltung bei Medikamentenfragen nur als Voreinstellung, die Nutzer im Gespräch aufheben können. Die Modelle lehnen dagegen Anfragen nach urheberrechtlich geschützten Texten grundsätzlich ab. Genau diese Gewichtung halten die Eltern für den Fehler.

OpenAI räumte im August 2025 selbst ein, dass die Schutzmechanismen in langen Unterhaltungen nachlassen können.^[2] GPT-4o galt zudem als besonders gefällig: Im April 2025 nahm OpenAI ein Update zurück, weil das Modell Nutzern zu oft nach dem Mund redete. Am 13. Februar 2026 entfernte OpenAI GPT-4o aus ChatGPT.

Die Klage gegen OpenAI in Zahlen

Vorwürfe aus der Klage der Familie Wan vom 27. Oktober 2026

400 mg

Tagesdosis Lamotrigin, die laut Klage nach einem Plan von GPT-4o binnen Wochen auf null sinken sollte

270.000

Nachrichten zwischen Wan und ChatGPT, ausgewertet von der New York Times

⅕

der Untergrenze des therapeutischen Bereichs: Wirkstoffspiegel im Blut nach Wans Tod

9.12.2026

Ab diesem Tag gilt Software in der EU als Produkt im Sinne der Produkthaftung

Der Verlauf laut Klage

Mai 2025

Erste Chats über ein neu verschriebenes Medikament

Januar 2026

Fragen nach einer geringeren Dosis, GPT-4o entwirft Absetzpläne

11. Februar 2026

Letzte Nachricht im Chat, drei Tage später wird Wan tot aufgefunden

13. Februar 2026

OpenAI entfernt GPT-4o aus ChatGPT

Was bedeutet der Fall für Anbieter in der EU?

Gegen OpenAI laufen bereits mehrere ähnliche Verfahren: Im Juli zog ein früherer Pastor aus Florida wegen gefährlicher Gesundheitsratschläge gegen OpenAI vor Gericht. Im Oktober klagten acht US-Bundesstaaten wegen mangelnden Schutzes Minderjähriger, Texas ging gegen Sam Altman persönlich vor.

In der EU verschiebt sich die Beweislast zugunsten der Geschädigten. Ab dem 9. Dezember 2026 zählt die neue Produkthaftungsrichtlinie Software und KI-Systeme zu den Produkten.^[3] Geschädigte müssen dann kein Verschulden mehr nachweisen, nur noch den Fehler und den dadurch verursachten Schaden. Legt ein Hersteller angeforderte Beweismittel nicht offen, vermutet das Gericht den Fehler. Anthropic schreibt bereits im Börsenprospekt, eine KI-Katastrophe sei womöglich nicht versicherbar.

Laut Klage sperrt OpenAIs Regelwerk geschützte Texte fest, Medikamentenrat nur per Voreinstellung. Patienten verdienen mindestens denselben Schutz wie Urheber.
Markus Seyfferth, Chefredakteur Dr. Web

Als Betreiber eines eigenen Chatbots hinterlegen Sie Dosierungen und Medikamente am besten als festes Sperrthema, statt sich auf die Voreinstellungen des Modellanbieters zu verlassen. Lange Unterhaltungen prüfen Sie zusätzlich stichprobenartig. Welches Modell zu welchem Zweck passt, zeigt unser Vergleich der KI-Textgeneratoren.