Nudify-Verbot: Was bedeutet xAIs Gerichtsniederlage?

Nudify-Verbot: xAI scheitert vor Gericht gegen Minnesotas KI-Gesetz

Markus Seyfferth

Autor Dr. Web

4. September 2026

2 Min. Lesezeit

Ein Bundesrichter in Minnesota lässt das Nudify-Verbot des Bundesstaats in Kraft, obwohl Elon Musks xAI dagegen klagte. Das Gesetz nimmt nicht die Nutzer in die Pflicht, sondern die Betreiber der Dienste. Für jeden Anbieter mit KI-Bildgenerator verschiebt sich die Haftung an den Anfang der Kette.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

Das Nudify-Verbot in Minnesota gilt seit dem 1. August 2026. Am 4. September 2026 wies Bundesrichter Donovan W. Frank den Eilantrag von xAI auf eine einstweilige Verfügung zurück, und der Beschluss reicht weit über den Bundesstaat hinaus.

Das Wichtigste in Kürze

xAI scheiterte am 4. September 2026 vor dem US-Bundesgericht in Minnesota mit dem Versuch, das Nudify-Verbot HF 1606 zu stoppen.
Das Gesetz droht Betreibern von Websites und Software mit bis zu 500.000 US-Dollar (rund 435.000 Euro) je Fall, sobald sie Nutzern das KI-gestützte „Nudify“ identifizierbarer Personen ermöglichen.
xAI berief sich auf den First Amendment und verwies auf Grok-Schutzmaßnahmen, darunter 50.000 gesperrte Konten und 70.000 Meldungen an das US-Kindesmissbrauchszentrum NCMEC.
Die EU verfolgt denselben Kurs über die Richtlinie 2024/1385 gegen Gewalt an Frauen, deren Umsetzung bis Juni 2027 fällig ist.

Was verbietet Minnesotas Nudify-Gesetz?

Ein Bildrahmen mit verpixeltem Inhalt, überklebt mit einem „GESPERRT“-Schild und davor ein Richterhammer — Gesetz HF 1606 verbietet Website- und App-Betreibern, Nudify-Bilder zu ermöglichen. Geldstrafen bis 500.000 Dollar pro Zugriff drohen

Das Gesetz HF 1606 verbietet dem Betreiber einer Website oder App, seinen Nutzern das Erzeugen sogenannter Nudify-Bilder zu erlauben. Gemeint sind Darstellungen, die eine reale, identifizierbare Person künstlich entkleidet zeigen, obwohl sie nie so aufgenommen wurde. Verantwortlich ist der Anbieter, nicht der einzelne Nutzer. Die Zivilstrafe reicht bis zu 500.000 US-Dollar je Zugriff, umgerechnet rund 435.000 Euro zum Kurs von 0,87 am 4. September 2026.^[1]

Der Zuschnitt trifft bewusst den Flaschenhals. Nudify-Dienste machen aus einer technischen Fähigkeit ein Massenprodukt. Ein Anbieter lässt sich leichter belangen als tausende anonyme Nutzer. Wie ernst die Aufsicht das Thema nimmt, zeigen die laufenden Verfahren rund um künstliche Intelligenz.

Womit begründet xAI die Klage?

xAI klagte bereits am 27. Juli 2026 und beruft sich auf den First Amendment, den Meinungsschutz der US-Verfassung. Das Gesetz sei zu weit gefasst und lasse kein milderes Mittel zu, argumentiert das Unternehmen. Einen ersten Eilantrag hatte Richter Frank schon am 31. Juli abgewiesen, weil xAI erst drei Monate nach der Unterzeichnung klagte.

Vor Gericht verweist xAI auf eigene Schutzmaßnahmen bei Grok Imagine. Die Nutzungsregeln untersagen sexualisierte Bilder realer Personen. Nach eigenen Angaben sperrte das Unternehmen 2026 über 50.000 Konten und meldete mehr als 70.000 Fälle an das US-Kindesmissbrauchszentrum NCMEC. Dass solche Regeln in der Praxis oft ins Leere laufen, zeigte zuletzt die eigene Klage gegen Nutzer, die Grok für Deepfakes missbrauchten.

xAI führt 50.000 gesperrte Konten ins Feld, doch nachträgliche Sperren kommen für die Betroffenen zu spät. Minnesota zieht die Verantwortung deshalb an den Ort, an dem die Nacktbild-Funktion entsteht, weg vom einzelnen Nutzer.
— Michael Dobler, Herausgeber Dr. Web

Was bedeutet das Urteil für Anbieter in Europa?

Europa steuert auf strengere Regeln zu als Minnesota. Die EU-Richtlinie 2024/1385 gegen Gewalt an Frauen stuft nichteinvernehmliche, auch KI-erzeugte Intimdarstellungen als Straftat ein. Bis zum 14. Juni 2027 müssen die Mitgliedstaaten die Vorgabe in nationales Recht umsetzen.^[2] Der AI Act verlangt zusätzlich eine klare Kennzeichnung solcher Deepfakes.

In Deutschland schützt bislang Paragraf 201a des Strafgesetzbuchs den höchstpersönlichen Lebensbereich vor solchen Bildern. Für Betreiber generativer Bild-KI verschiebt sich damit die Messlatte, denn Nutzungsregeln allein genügen künftig nicht als Verteidigung. Dieselbe Linie fahren US-Bundesstaaten längst gegen Plattformen, etwa im Milliardenvergleich mit Meta zum Kinderschutz. Die Abgrenzung, wer bei einem abgemahnten KI-Motiv haftet, zeigt der Vergleich von Adobe Firefly und DALL·E.

Anbieter mit KI-Bildfunktionen prüfen jetzt besser die eigene Missbrauchsabwehr. Sperr- und Meldewege sollten technisch erzwungen sein, bevor 2027 die EU-Vorgaben greifen. Der Fall xAI zeigt, dass nachträgliche Kontosperren ein Gericht nicht mehr überzeugen.