Erstmals macht ein großes KI-Unternehmen seine eigenen Kunden vor Gericht haftbar. xAI, die KI-Firma von Elon Musk, verklagt zwei US-Nutzer, weil sie den Bildgenerator Grok laut Klageschrift gezielt für sexualisierte Missbrauchsdarstellungen zweckentfremdet haben sollen. Für jeden, der generative Bild-KI anbietet oder einsetzt, rückt damit die Haftungsfrage in den Vordergrund: Trägt der Anbieter die Verantwortung oder der Nutzer?
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Das Wichtigste in Kürze
- xAI verklagt zwei Nutzer in den USA, weil sie mit dem Bildgenerator Grok laut Klageschrift Missbrauchsdarstellungen erzeugt und damit die Nutzungsbedingungen gebrochen haben sollen.
- Parallel verklagen Betroffene xAI selbst wegen Fahrlässigkeit: Grok habe die nicht einvernehmlichen Bilder erst möglich gemacht.
- Für 2026 beziffert xAI die an die US-Meldestelle NCMEC übermittelten Verdachtsfälle auf rund 74.000.
- Der EU AI Act verlangt seit dem 2. August 2026 eine Kennzeichnung von KI-Deepfakes, bei Verstoß drohen bis zu 15 Millionen Euro Bußgeld.
Warum verklagt xAI seine eigenen Nutzer?
Der Schritt ist ein Novum. Ein KI-Anbieter zieht nicht gegen Fremde vor Gericht, sondern gegen die eigene Kundschaft. In zwei US-Bundesstaaten wirft xAI je einem Nutzer vor, Grok für Missbrauchsdarstellungen zweckentfremdet und damit die Nutzungsbedingungen gebrochen zu haben. Die Klageschrift nennt das eine kalkulierte Kampagne, das eigene Werkzeug für kriminelle Zwecke einzuspannen.
Hinter der ungewöhnlichen Klage steckt eine Haftungsstrategie. Indem xAI den Missbrauch als klaren Vertragsbruch der Nutzer vor Gericht bringt, rückt der Konzern die Verantwortung von sich weg und auf die Täter. Der Druck dazu wächst, denn die kalifornische Justiz hatte xAI schon im Januar 2026 per Unterlassungsaufforderung verpflichtet, die Erzeugung nicht einvernehmlicher Nacktbilder und von Missbrauchsmaterial zu stoppen.[1] Für 2026 nennt der Konzern rund 74.000 Verdachtsfälle, die er an die US-Meldestelle NCMEC weitergab.
Liegt die Schuld beim Werkzeug oder beim Nutzer?
Genau diese Verlagerung bestreiten die Betroffenen. Zeitgleich verklagen Opfer xAI selbst und werfen dem Unternehmen Fahrlässigkeit vor: Grok habe die Deepfakes überhaupt erst ermöglicht und trotz Beschwerden zu wenig gegen den Missbrauch unternommen. Die Anwältin einer Betroffenen nennt die Nutzerklagen zu spät und zu klein, weil das Problem im Produkt liege, nicht bei einzelnen Anwendern.
Der Fall steht nicht allein. Kalifornien geht seit Monaten gegen sexualisierte Deepfakes aus Grok vor, und auch andere Anbieter geraten an derselben Stelle unter Druck. Der US-Bundesstaat Minnesota hat mit einem eigenen Deepfake-Gesetz die Betreiber von KI-Bildgeneratoren in die Haftung genommen, und um die KI-Nachbildung realer Personen wird auch anderswo gestritten, etwa um die KI-Wiederbelebung verstorbener Prominenter auf Instagram.
Ein Bildmodell mit schwachen Sperren auszuliefern und die Verantwortung dann per Nutzungsbedingung an die Kundschaft weiterzureichen, funktioniert vor europäischen Gerichten nicht. Dort zählt, welche Schutzmechanismen der Anbieter selbst eingebaut hat, nicht welche Klausel im Kleingedruckten steht.
— Markus Seyfferth, Chefredakteur Dr. Web
Was bedeutet der Fall für KI-Anbieter im DACH-Raum?
Für Anbieter und Betreiber im deutschsprachigen Raum verschiebt sich die Rechtslage gerade spürbar. Seit dem 2. August 2026 verpflichtet der EU AI Act dazu, KI-erzeugte oder manipulierte Bilder als solche zu kennzeichnen, und zwar auch ohne Täuschungsabsicht.[2] Ein Verstoß kostet bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.
Neben der Kennzeichnungspflicht steht der strafrechtliche Schutz. Die EU-Richtlinie gegen Gewalt an Frauen stellt nicht einvernehmliche intime Deepfakes seit 2024 unter Strafe, und in Deutschland greift bei Bildaufnahmen der höchstpersönliche Schutz nach Paragraf 201a StGB. Für Unternehmen bedeutet das konkret, vor dem Einsatz eines Bildmodells dessen Filter und Kennzeichnung zu prüfen und sich vom Anbieter vertraglich absichern zu lassen. Wie eng dieser Rahmen wird, zeigt auch der Streit um urheberrechtlich geschützte Trainingsdaten bei Anthropic und die weitere Regulierung generativer KI.
Quellen
[1] California Department of Justice: „Attorney General Bonta Sends Cease and Desist Letter to xAI, Demands It Halt Illegal Actions Immediately“ (16.01.2026)
[2] Amtsblatt der EU: Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 50 (Transparenzpflichten)
Mehr Newshunger?
- 435.000 Euro je Bild: Minnesotas Deepfake-Gesetz bestraft die einfache Bedienung
- KI-Videos von Verstorbenen: Robin Williams’ Kinder reaktivieren sein Instagram-Konto
- Sony und Warner verklagen Anthropic wegen zehntausender Songs im Claude-Training
- OpenAI entzieht Cursor den Modellzugang nach der SpaceX-Übernahme
- Claude Code: Ein Prompt-Injection-Angriff überlistet den Auto-Modus
