Baidus KI-Suche behauptete, der Anwalt Li Xiaoliang sei wegen eines Sprengstoffdelikts zu drei Jahren Haft verurteilt worden. Kein Wort davon stimmte. Ein Gericht in Nanjing wertete die Falschaussage als Rufschädigung und zwang Baidu zur schriftlichen Entschuldigung. Der Fall gilt als Chinas erster KI-Haftungsfall dieser Art.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Ein Anwalt aus Nanjing gab im September 2024 seinen eigenen Namen in die Baidu-Suche ein und erhielt von der KI-Antwort ein frei erfundenes Strafurteil. Zwei Jahre später steht juristisch fest, dass der Konzern für solche Halluzinationen geradestehen muss.
Das Wichtigste in Kürze
- Baidus KI-Antwortfunktion behauptete, der Anwalt Li Xiaoliang sei wegen eines Sprengstoffdelikts zu drei Jahren Haft verurteilt worden, bebildert mit seinem echten Porträt.
- Das Volksgericht des Bezirks Jiangbei und in zweiter Instanz das Mittlere Volksgericht Nanjing werteten die Falschaussage im März 2026 als Verletzung des Persönlichkeitsrechts.
- Baidus Einwand, Halluzinationen einer KI seien technisch unvermeidbar, überzeugte die Richter nicht.
- Die angeordnete Entschuldigung erreichte den Anwalt erst am 22. September 2026, durchgesetzt per Zwangsvollstreckung.
Was behauptete Baidus KI genau?
Baidus KI-Antwort erklärte einen praktizierenden Anwalt kurzerhand zum verurteilten Straftäter. Bei der Suche nach seinem eigenen Namen erschien 2024 der Satz, der Jurist Li Xiaoliang sei wegen eines Sprengstoffdelikts zu drei Jahren Haft verurteilt worden, bebildert mit seinem echten Foto in Anwaltsrobe.[1] Nichts daran war wahr.
Baidu ließ das rechtskräftige Urteil danach monatelang unerfüllt. Erst nach einem Antrag auf Zwangsvollstreckung erhielt der Anwalt am 22. September 2026 die schriftliche Entschuldigung. Seinen Namen blendet Baidus KI seither nach seinen Angaben aus, statt die Antwort zu berichtigen.
Warum zieht die Halluzinations-Ausrede nicht?
Das Gericht ließ Baidus Verteidigung nicht gelten, die Falschaussage sei eine unvorhersehbare KI-Halluzination. Die entscheidende Frage der Richter lautete, warum konkurrierende Systeme wie Doubao oder DeepSeek auf dieselbe Anfrage keinen solchen Fehler liefern. Damit wurde aus einer angeblich technischen Zwangsläufigkeit eine Frage der Systemverantwortung.
Sprachmodelle setzen Antworten aus statistisch wahrscheinlichen Wortfolgen zusammen und erfinden dabei Namen und komplette Urteile, sobald Belege fehlen. Dass solche Ausfälle kein Randfall sind, zeigt die Fehlerquote von KI-Chatbots bei Finanzfragen ebenso wie der von KPMG zurückgezogene Beratungsreport. Ob Halluzinationen jemals ganz verschwinden, bleibt offen.
Die Ausrede von der unvermeidbaren Halluzination endet dort, wo ein echter Name im Ergebnis steht. Eine ausgespielte KI-Antwort bindet den Betreiber genauso wie eine gedruckte Schlagzeile den Verlag.
— Markus Seyfferth, Chefredakteur Dr. Web
Was bedeutet das für Firmen im DACH-Raum?
Die Verantwortung für eine KI-Antwort bleibt beim Betreiber, nicht bei der Technik. In der EU greift zusätzlich die DSGVO: Artikel 5 verlangt sachlich richtige personenbezogene Daten, Artikel 16 gibt Betroffenen ein Recht auf Berichtigung. Genau hier setzt die Datenschutzorganisation noyb an, die 2025 in Norwegen Beschwerde gegen OpenAI einlegte, nachdem ChatGPT einen unbescholtenen Mann zum Mörder seiner eigenen Kinder erklärt hatte.[2] Zusätzlich verpflichtet der EU AI Act Anbieter generativer Modelle zu Transparenz, wie schon der Streit um SAP Joule und den AI Act gezeigt hat.
Drei Konsequenzen ergeben sich daraus für Entscheider:
- Die eigene Marke und die eigenen Namen regelmäßig in generativen Suchergebnissen prüfen, wie es Generative Engine Optimization ohnehin verlangt.
- Jede KI-gestützte Kundenauskunft an einen menschlichen Korrektur- und Meldeweg koppeln.
- Das Haftungsrisiko absichern, etwa über eine Police wie die der Münchener Rück gegen Halluzinationsschäden.
Chinas Urteil bindet kein deutsches Gericht, taugt aber als Vorgeschmack. Firmen mit generativer Suche oder Chatbots klären am besten sofort, wer eine falsche KI-Aussage über eine reale Person bemerkt und binnen Tagen korrigiert.
Quellen
[1] The Paper (澎湃新闻): „Baidu-KI erklärte Anwalt zum Verurteilten“, Gericht wertet Halluzination als Rufschädigung
[2] noyb: „AI hallucinations: ChatGPT created a fake child murderer“
Mehr Newshunger?
- Werden KI Halluzinationen jemals verschwinden?
- KI-Chatbots bei Finanzfragen: 57 Prozent der Antworten sind falsch
- KPMG zieht KI-Report wegen Halluzinationen zurück
- KI-Versicherung: Die Münchener Rück deckt jetzt auch Halluzinationen ab
- SAP Joule und der EU AI Act: Die Transparenzpflicht liegt beim Kunden
- Baidus KI-Büroagent Dazi verdient plötzlich Geld
