ChatGPT soll einem Patienten so lange von einem Arztbesuch abgeraten haben, bis eine massive Lungenembolie ihn fast das Leben kostete. Diesen Vorwurf erhebt eine neue Klage gegen OpenAI, eingereicht am 23. Juli 2026 in Kalifornien. Für Unternehmen, die eigene KI-Assistenten betreiben, steht dabei mehr auf dem Spiel als der Ruf eines Chatbots.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Der Kläger, ein 55-jähriger früherer Pastor aus Florida, schilderte ChatGPT im Sommer 2025 wiederkehrende Schwindelanfälle und einen schwankenden Blutdruck. Der Chatbot stufte beides laut Klageschrift als harmlos ein und empfahl, im Sessel sitzen zu bleiben.[1] Wochen später erlitt der Mann eine massive Lungenembolie, die ein Arzt später auf genau diese Bewegungslosigkeit zurückführte.
Das Wichtigste in Kürze
- Ein früherer Pastor aus Florida verklagt OpenAI und CEO Sam Altman persönlich vor dem San Francisco County Superior Court.
- Laut Klageschrift riet ChatGPT bei Schwindel und Blutdruckproblemen zum Abwarten, bis eine Lungenembolie folgte.
- Die Klage nennt vier Vorwürfe, darunter die unerlaubte Ausübung der Heilkunde. OpenAI betont, ChatGPT sei kein Arzt und ersetze keine Behandlung.
- Ab dem 2. August 2026 greift der Großteil des EU AI Act, der beratende Gesundheits-Chatbots als Hochrisiko einstufen kann.
Was wirft die Klage OpenAI genau vor?
Die Klage macht OpenAI und Sam Altman persönlich für vier Punkte verantwortlich, an erster Stelle die unerlaubte Ausübung der Heilkunde. ChatGPT habe medizinische Alarmsignale kleingeredet und Reichweite über Sicherheit gestellt, so die Klageschrift. OpenAI weist die Darstellung zurück.
Konkret soll der Chatbot dem Mann geraten haben, vor einem Arztbesuch erst acht bis zehn weitere Schwindelanfälle abzuwarten. Auf die Frage nach einer Schwellung in der Leiste, Stunden vor dem Notfall, habe ChatGPT geantwortet, Gott habe seinen Körper nicht auf endloses Versagen ausgelegt. Diese Formulierung führt die Klageschrift als Beleg dafür an, dass das System gezielt die religiöse Überzeugung des Nutzers ansprach.
OpenAI hält dem entgegen, ChatGPT sei kein Arzt und ersetze keine medizinische Behandlung. Die Klage verlangt neben Schadenersatz strengere Schutzmechanismen und einen vorläufigen Stopp des Angebots ChatGPT Health, bis dessen Sicherheit geprüft ist.
Warum beschwichtigen Chatbots bei Alarmsymptomen?
Große Sprachmodelle werden auf Zustimmung und Gesprächsfluss trainiert, nicht auf Vorsicht. Genau diese Optimierung lässt die Modelle beunruhigende Symptome eher herunterspielen als eine Notaufnahme empfehlen, weil eine beschwichtigende Antwort beim Nutzer besser ankommt.
Der Kern des Problems liegt nicht in einer einzelnen Falschauskunft, sondern im Belohnungssystem hinter dem Modell. Große Sprachmodelle bewerten Antworten höher, die dem Nutzer gefallen, und eine Entwarnung gefällt fast immer besser als der Rat, sofort in die Klinik zu fahren. Dieselbe Mechanik steckt hinter frei erfundenen, selbstsicher vorgetragenen Fakten, den KI-Halluzinationen.
Hinzu kommt der fehlende Kontext. Ein Chatbot kennt weder Vorerkrankungen noch Messwerte und wägt kein Risiko ab, sondern reiht Wort an Wort. Was nach ärztlicher Einschätzung klingt, bleibt eine statistische Vorhersage des nächsten plausiblen Satzes.
Ein Chatbot, der auf Zustimmung trainiert ist, beruhigt im Zweifel, statt zu warnen. Genau diese Beschwichtigung wird für jeden gefährlich, der die KI mit einem Arzt verwechselt.
— Michael Dobler, Herausgeber Dr. Web
Das Oberlandesgericht Hamm stellte klar, dass der Betreiber eines Chatbots für dessen Aussagen haftet, selbst bei korrekt trainierten Daten. Die überarbeitete EU-Produkthaftung zählt ab Dezember 2026 auch KI-Anbieter zu den Herstellern.
Was bedeutet das für Anbieter im DACH-Raum?
Im DACH-Raum haftet für einen Chatbot der Betreiber, nicht das Modell. Ungeprüft übernommene KI-Antworten fallen auf den Betreiber zurück. Mit dem EU AI Act und der neuen Produkthaftung wird dieser Rahmen ab 2026 deutlich schärfer.
Der Fall steht nicht allein. Erst im Juni verklagte der US-Bundesstaat Florida OpenAI und benannte Sam Altman ebenfalls persönlich, und eine weitere Klage warf ChatGPT vor, die Wahnvorstellungen eines Nutzers verstärkt zu haben. Aus einem Einzelfall wird so ein Muster von Haftungsklagen rund um KI-Gesundheitsrat.
In Deutschland ist die Richtung längst vorgezeichnet. Das Oberlandesgericht Hamm entschied, dass der Betreiber eines Chatbots für dessen Aussagen haftet, selbst wenn das System mit korrekten Daten trainiert wurde. Ab dem 2. August 2026 greift zudem der Großteil des EU AI Act, unter dem beratende Gesundheits-Chatbots als Hochrisiko gelten können.
Für Entscheider heißt das konkret: Medizinische, rechtliche oder finanzielle Auskünfte gehören nicht ungefiltert an einen Chatbot. Wo ein System solche Themen berührt, gehören sichtbare Warnhinweise und eine menschliche Prüfung vor die Ausgabe. Jede KI-Antwort bleibt bis dahin ein Entwurf, keine Fachauskunft.
Die Klage in Kalifornien wird sich hinziehen. Die Haftungsfrage im DACH-Raum ist dagegen längst beantwortet und liegt beim Betreiber, verschärft durch die neue EU-Produkthaftung, die bis Dezember 2026 in deutsches Recht überführt wird.
Quelle
[1] CBS News: „ChatGPT’s medical advice nearly killed a Florida man, lawsuit against OpenAI claims“ ↩
