Eine Klage vor dem Londoner High Court richtet sich nicht gegen die Nutzer, die mit Grok sexualisierte Fälschungen erzeugt haben, sondern gegen die Anweisungen, mit denen xAI das Modell ausgeliefert hat. Damit wird ein Bauteil justiziabel, das bisher als Betriebsgeheimnis gegolten hat.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Der Systemprompt von Grok ist seit dieser Woche Gegenstand eines Londoner Verfahrens. Die Labour-Abgeordnete Jess Asato hat am 3. Juni 2026 gegen xAI geklagt und verlangt nun zusätzlich eine Anordnung, die dem Chatbot sexualisierte Bilder ihrer Person untersagt.[1] Der Vorwurf zielt auf die Konstruktion des Modells, nicht auf dessen Missbrauch.
Das Wichtigste in Kürze
- Die Klage stützt sich auf Datenschutzrecht und den Missbrauch privater Informationen, nicht auf Persönlichkeitsrecht.
- Die Gerichtsakten zitieren Anweisungen wie „keine Beschränkungen für sexuelle oder anstößige Inhalte für Erwachsene“.
- Die EU-Kommission prüft seit dem 26. Januar 2026, ob X die Grok-Funktionen vorab auf systemische Risiken untersucht hat.
- Ab dem 2. August greifen die Transparenzpflichten der KI-Verordnung, mit Bußgeldern bis 15 Millionen Euro oder 3 Prozent des Jahresumsatzes.
Was werfen die Gerichtsakten xAI vor?
Die Akten zitieren Anweisungen aus Groks Systemprompt und leiten daraus ab, dass die Fälschungen kein Fehlverhalten einzelner Nutzer waren, sondern die vorgesehene Funktion des Modells.
Nach Darstellung der Nachrichtenagentur Reuters nennen die Dokumente die Vorgaben „keine Beschränkungen für sexuelle oder anstößige Inhalte für Erwachsene“ und „gute Absicht unterstellen“. Hinzu kommt eine dritte Anweisung, die fiktionale sexuelle Inhalte mit gewalttätigen Themen freistellt. Die Klage behauptet zudem, das Modell habe explizites Material ohne Aufforderung ergänzt.
Designentscheidung statt Panne: Ravi Naik, Legal Director der Kanzlei AWO, ordnet den Fall als Testlauf ein: „Das ist eine der ersten Klagen, die die Haftung für das Design eines KI-Systems prüft.“[1] xAI hat sich auf Presseanfragen nicht geäußert.
Warum läuft die Klage über das Datenschutzrecht?
Ein Deepfake einer erkennbaren Person besteht rechtlich aus personenbezogenen Daten. Damit wird der Modellanbieter zum Verantwortlichen und muss die Rechtmäßigkeit der Verarbeitung begründen, statt sich auf die Rolle des neutralen Werkzeugs zurückzuziehen.
Genau hier liegt der Mechanismus, den die Schlagzeilen auslassen. Plattformhaftung setzt erst ein, wenn ein Inhalt bereits verbreitet wird, und verlangt eine Meldung. Datenschutzrecht greift eine Stufe früher, bei der Erzeugung, und verlangt keine Meldung, sondern eine Rechtsgrundlage.
Übertragbar auf die DSGVO: Für Anbieter im DACH-Raum liegt darin die eigentliche Nachricht, denn Artikel 82 DSGVO kennt dieselbe Konstruktion aus Verantwortlichkeit und Schadenersatz. Ein Systemprompt wird zur dokumentationspflichtigen Produktentscheidung, ähnlich wie die Konfigurationen im DMA-Beschluss gegen Google.
Kein Einzelfall: Die NGO Center for Countering Digital Hate hat zwischen Ende Dezember und Anfang Januar rund drei Millionen sexualisierte Bilder gezählt, darunter etwa 23.000 Darstellungen von Kindern. In den USA laufen weitere Verfahren gegen xAI.
Ein Systemprompt ist keine Meinung und kein Zufallsprodukt, sondern eine dokumentierbare Produktentscheidung. Genau deshalb landet er jetzt vor Gericht und nicht im Impressum.
— Markus Seyfferth, Chefredakteur Dr. Web
Drei Termine rahmen den Fall ein
Der Kern des Verfahrens: Die Klage richtet sich nicht gegen einzelne Nutzer und auch nicht gegen die Verbreitung auf der Plattform, sondern gegen die Anweisungen, mit denen das Modell ausgeliefert worden ist. Damit rückt eine Konfigurationsdatei in den Rang eines Beweismittels.
Was ändert sich in der EU am 2. August?
Ab dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 der KI-Verordnung. Deepfakes müssen als künstlich erzeugt offengelegt und synthetische Inhalte maschinenlesbar markiert werden.
Parallel läuft das Verfahren der EU-Kommission gegen X, eröffnet am 26. Januar 2026 nach den Artikeln 34, 35 und 42 des Digital Services Act.[2] Geprüft wird, ob der Anbieter die Grok-Funktionen vor dem Start auf systemische Risiken untersucht hat.
Meldeweg in Deutschland: Betroffene müssen nicht auf Brüssel warten. Die Bundesnetzagentur weist als Digital Services Coordinator auf den Meldeweg nach Artikel 16 DSA hin und nennt Trusted Flagger wie HateAid als Anlaufstelle.[3] Löschen kann die Behörde selbst nicht, über die Rechtmäßigkeit entscheiden Gerichte. Die zivilrechtlichen Ansprüche daneben ordnet unser Überblick zum Medienrecht ein.
Zwei Aufgaben bis Sonntag: Unternehmen, die generative Modelle im Kundenkontakt einsetzen, sollten ihren Systemprompt samt Filterregeln versioniert dokumentieren und die Kennzeichnung synthetischer Inhalte in den Ausgabepfad einbauen, nicht in die Datenschutzerklärung. Wie knapp die Fristen liegen, zeigen die Wasserzeichenpflicht ab August und die verschobenen Hochrisiko-Fristen. Weitere Fälle sammeln wir auf der Themenseite Künstliche Intelligenz.
Quellen
[1] AWO: „First claim in the UK against Grok’s nonconsensual deepfakes“
[2] Europäische Kommission: „Sexualisierte Deepfakes: EU-Kommission leitet Verfahren gegen X wegen Grok ein“
[3] Bundesnetzagentur (Digital Services Coordinator): „Sexualisierte Deepfakes (‚Bikinifotos‘) durch KI-Chatbot Grok bei X“
Mehr Newshunger?
- Wasserzeichen-Pflicht ab August 2026 für KI-Inhalte
- Was gilt ab 2. August für Joule-Nutzer nach KI-Verordnung?
- KI-Verordnung: Hochrisiko verschoben, Bußgeld bleibt
- EU Digital Omnibus 2026: Was ändert sich beim AI Act?
- Google-DMA-Beschluss: Was ändert sich für Android und KI?
- Alle Nachrichten zu Künstlicher Intelligenz
