Deepfake-Gesetz: Haftet der KI-Bildgenerator?

435.000 Euro je Bild: Minnesotas Deepfake-Gesetz bestraft die einfache Bedienung

Michael Dobler

Autor Dr. Web

18. August 2026

3 Min. Lesezeit

Ein Bundesgericht in St. Paul verhandelt an diesem Mittwoch das erste Deepfake-Gesetz, das nicht den Nutzer belangt, sondern den Bildgenerator selbst. Minnesota droht mit bis zu 500.000 US-Dollar für jedes einzelne Bild, umgerechnet 435.000 Euro (Kurs 0,87 am 18. August 2026).

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

Elon Musks KI-Firma xAI hält die Vorschrift für verfassungswidrig. Der Bundesstaat legte am 14. August seine Erwiderung vor. Generalstaatsanwalt Keith Ellison nennt den Bilddienst Grok Imagine darin einen beispiellosen Marktplatz für digitale sexuelle Gewalt, der praktisch keine Zugangshürde kenne.

Das Wichtigste in Kürze

Seit dem 1. August haftet in Minnesota der Betreiber eines KI-Bildgenerators, unabhängig von Kenntnis oder Absicht.
Die Zivilstrafe reicht bis 435.000 Euro je Bild, dazu tritt ein eigenes Klagerecht der abgebildeten Person.
Vom Verbot ausgenommen bleiben Werkzeuge, deren Bedienung erhebliches technisches oder künstlerisches Können verlangt.
Das EU-Recht adressiert bis heute die handelnde Person, nicht den Anbieter des Werkzeugs.

Warum trifft das Gesetz gerade Grok Imagine?

Ein grauer Taster mit orangefarbenem Knopf und ein Mischpult auf weißem Untergrund — Minnesota verbietet Diensten, die Erstellung intimer Bilder realer Personen zu ermöglichen. Ausnahme: hoher technischer oder künstlerischer Aufwand erforderlich

Paragraf 325E.91 der Minnesota Statutes untersagt jedem Dienst, Nutzern das Erzeugen intimer Körperteile in Bildern realer Personen zu ermöglichen.^[1] Über die Reichweite entscheidet eine einzige Ausnahme: Das Verbot entfällt, sobald die Bedienung erhebliches individuelles technisches oder künstlerisches Urteilsvermögen verlangt. Damit wird der Bedienkomfort zum Haftungsmerkmal. Ein Grafikprogramm mit Ebenen und Masken bleibt außen vor, ein Dienst mit einem Fingertipp nicht.

Genau diese Umkehrung greift xAI an. Die Klageschrift vom 27. Juli beim Bundesbezirksgericht Minnesota nennt das Gesetz eine Gefährdungshaftung ohne Kenntnis-, Vorsatz- oder Zweckerfordernis, und zwar gleichgültig, wie sorgfältig ein Anbieter seine Sperren pflegt.^[2] Für Minnesota schränkte xAI die Bildbearbeitung von Grok Imagine daraufhin ein. Wie sehr das Verhalten des Modells selbst zum Streitgegenstand taugt, zeigte im Juli die Klage gegen den Systemprompt von Grok vor dem Londoner High Court.

Was macht diese Haftungsform neu?

Bisherige Vorschriften setzen bei der Verbreitung an. Der bundesweite TAKE IT DOWN Act und Minnesotas älterer Deepfake-Straftatbestand verlangen beide die wissentliche Weitergabe ohne Einwilligung. Das neue Gesetz greift eine Stufe früher und knüpft die Haftung an die Erzeugung, auch wenn ein Bild das Gerät nie verlässt und die abgebildete Person zugestimmt hat.

Der Bundesstaat begründet den Schritt mit der schieren Menge. Nach eigenen Angaben sperrte xAI im Jahr 2026 mehr als 50.000 Konten und erstattete über 70.000 Meldungen beim US-Zentrum für vermisste und ausgebeutete Kinder. Dass sich Bildmodelle zu unerwünschten Ausgaben überreden lassen, belegt auch der Fall, in dem ChatGPT Gewaltbilder ausgab. Die KI-Rubrik von Dr. Web sammelt weitere Verfahren dieser Art.

Minnesota verschiebt die Verantwortung vom Nutzer auf das Werkzeug und macht ausgerechnet die einfache Bedienung zum Risiko. Europäische Anbieter sollten diesen Maßstab kennen, bevor er über Umwege in die nächste Regulierungsdebatte einwandert.
— Markus Seyfferth, Chefredakteur Dr. Web

Was in Minnesota gilt

Zivilstrafe je Bild

435.000 €

Höchstbetrag für jeden einzelnen Zugriff, Download oder Gebrauch, entspricht 500.000 US-Dollar

Schadenersatz der abgebildeten Person

3-fach

bis zum Dreifachen des tatsächlichen Schadens, dazu Strafschadenersatz und Anwaltskosten

In Kraft seit

01.08.2026

gilt für Ansprüche, die an diesem Tag oder später entstehen

Wie das Gesetz zustande kam

Abstimmung im Parlament von Minnesota

132 zu 1

im Repräsentantenhaus, im Senat 65 zu 0, beschlossen im April 2026

Ausnahme vom Verbot

Können

frei bleibt ein Werkzeug, dessen Bedienung erhebliches individuelles technisches oder künstlerisches Urteilsvermögen verlangt

In Europa zielt das Recht auf die handelnde Person

Weder die Gewaltschutzrichtlinie noch die KI-Verordnung nehmen den Anbieter eines Bildwerkzeugs für das Ergebnis in Haftung.

14.06.2027

Frist für die Mitgliedstaaten, intime Deepfakes ohne Einwilligung nach Richtlinie (EU) 2024/1385 unter Strafe zu stellen

02.08.2026

seither verlangt Artikel 50 der KI-Verordnung eine Kennzeichnung synthetischer Bilder, mehr nicht

Was heißt das für europäische Anbieter?

Eine vergleichbare Anbieterhaftung kennt das EU-Recht nicht. Die Gewaltschutzrichtlinie (EU) 2024/1385 verpflichtet die Mitgliedstaaten, das nicht einvernehmliche Erstellen und Verbreiten intimer Deepfakes bis zum 14. Juni 2027 unter Strafe zu stellen.^[3] Adressat bleibt dort die handelnde Person. Seit dem 2. August 2026 fordert die KI-Verordnung zusätzlich eine Kennzeichnung synthetischer Inhalte, also Auskunft über die Herkunft, keine Verantwortung für das Ergebnis.

In Deutschland läuft der Vorstoß gegen Anbieter deshalb über das Strafrecht. Die Strafanzeige gegen Meta und die Händler der Kamerabrille zielt nach demselben Muster auf den Hersteller statt auf den Nutzer. Welche Betreiberpflichten heute gelten, ordnet unser Überblick zum Medienrecht ein.

Zwei Aufgaben folgen daraus für Produktverantwortliche. In die Risikoanalyse gehört zuerst die Frage, ob ein Bildwerkzeug ohne jedes Fachwissen zu intimen Darstellungen führen kann, denn genau daran hängt die Haftung in Minnesota. Danach gehört die regionale Abschaltung einzelner Funktionen als technische Option ins Produkt, weil xAI genau diesen Weg gewählt hat.