Ein gefälschtes Video ließ einen schottischen Kommunalpolitiker gegen Geflüchtete hetzen. Meta wollte den Clip zunächst online lassen. Erst das konzerneigene Oversight Board ordnete die Löschung an. Metas Schutz vor KI-Deepfakes nennt das Gremium „durchweg und grundlegend unzureichend“. Für Unternehmen mit Facebook-Seite zeigt der Fall, wie lange eine KI-Fälschung online bleiben kann, bevor sie fällt.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
KI-Deepfakes gehören auf Facebook längst zum Alltag, doch Metas Regeln dagegen greifen zu spät. Am 17. September 2026 überstimmte das Oversight Board den Konzern in zwei Fällen und verlangte die Löschung zweier manipulierter Videos. Das Gremium erklärt die bestehenden Schutzmechanismen zugleich für strukturell unzureichend.
Das Wichtigste in Kürze
- Das Oversight Board hob zwei Meta-Entscheidungen auf und ordnete die Löschung zweier KI-Deepfakes von Facebook an.
- Betroffen waren ein Hetzvideo gegen Geflüchtete und ein Clip, der eine Ernährungsberaterin lächerlich macht.
- Meta muss die Videos binnen sieben Tagen entfernen und hat 60 Tage Zeit, auf neun Empfehlungen zu antworten.
- In der EU greifen DSA und AI Act unabhängig von Metas Hausregeln, samt Kennzeichnungspflicht für KI-Inhalte.
Zwei Fälschungen, zwei überstimmte Entscheidungen
Der erste Fall betrifft ein KI-Video eines schottischen Labour-Kommunalpolitikers, das ihm erfundene Hetze gegen Geflüchtete in den Mund legt. Meta ließ den Clip zunächst stehen, weil kein vertrauenswürdiger Partner ihn gemeldet hatte und keine Wahl betroffen war. Das Oversight Board wertete das Video dagegen als Verstoß gegen die Regeln zu Hassrede, weil der Clip Geflüchteten pauschal kriminelles Verhalten unterstellt.
Der zweite Fall zeigt ein Video, das eine muslimische Ernährungsberaterin beim Verschlingen von Junkfood inszeniert, während sie eigentlich zu achtsamem Essen rät, um ihre Glaubwürdigkeit zu untergraben. Ko-Vorsitzende Pamela San Martin ordnete den Befund ein: „KI-Deepfakes dienen zunehmend dazu, Frauen aus der öffentlichen Debatte zu drängen.“
Warum ließen Metas Filter die Fälschungen durch?
Beide Videos trugen kein KI-Label, obwohl Meta genau dafür ein System betreibt. Der Kern des Problems liegt im Zuschnitt der Richtlinie: Das Regelwerk zielt auf Wahlmanipulation und auf Meldungen ausgewählter Partner, nicht auf Hass oder gezielte Herabwürdigung. Eine Fälschung ohne Wahlbezug fällt so durch das Raster, selbst wenn die Machart offensichtlich ist, etwa bei einer Tonspur, die nicht zu den Lippenbewegungen passt.
Das Gremium nennt diesen Schutz „durchweg und grundlegend unzureichend“ angesichts der wachsenden Flut KI-erzeugter Inhalte.[1] Neun Nachbesserungen soll Meta umsetzen: mehr Fälle für Warnhinweise, weniger Reichweite für täuschende KI-Inhalte, härtere Strafen für Wiederholungstäter und mehr Transparenz über die Kennzeichnung.
Ein Konzern, dessen eigenes Kontrollgremium den Deepfake-Schutz für grundlegend kaputt erklärt, kann die Aufsicht nicht länger dem Zufall einzelner Meldungen überlassen.
— Markus Seyfferth, Chefredakteur Dr. Web
Was ändern DSA und AI Act für Sie?
Für europäische Betreiber zählt weniger Metas Hausrecht als der gesetzliche Rahmen rund um künstliche Intelligenz. Der Digital Services Act verpflichtet sehr große Plattformen, systemische Risiken wie Desinformation zu bewerten und zu mindern. Die EU-Kommission wirft Facebook und Instagram bereits an anderer Stelle einen Verstoß gegen den DSA vor. Parallel schreibt der AI Act vor, KI-erzeugte Bilder, Ton und Videos klar zu kennzeichnen.[2]
Für Ihr Unternehmen ergeben sich daraus klare Schritte. Kennzeichnen Sie eigene KI-Inhalte sichtbar, bevor die Kennzeichnungspflicht vollständig greift. Ebenso wichtig ist ein fester Meldeweg für Deepfakes, die Ihre Marke oder Ihre Beschäftigten imitieren. Dokumentieren Sie kritische Fälle zusätzlich für eine spätere Beschwerde nach dem DSA, statt sich allein auf die Meldefunktion der Plattform zu verlassen.
Quellen
[1] Oversight Board: „Meta Must Do More Against Harmful Deepfakes Containing Hate Speech“
[2] Amtsblatt der EU: Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 50
Was hat das Oversight Board bei Meta entschieden?
Das Oversight Board hob am 17. September 2026 zwei Entscheidungen von Meta auf und ordnete die Löschung zweier KI-Deepfakes von Facebook an. Meta muss die Videos binnen sieben Tagen entfernen. Zusätzlich sprach das Gremium neun Empfehlungen aus, auf die der Konzern innerhalb von 60 Tagen reagieren soll.
Warum ließ Meta die Deepfakes zunächst online?
Metas Richtlinie zu manipulierten Medien greift vor allem bei Wahlmanipulation und bei Hinweisen ausgewählter Partner, nicht bei Hassrede oder gezielter Herabwürdigung. Beide Videos trugen zudem kein KI-Label. So blieb eine Fälschung ohne Wahlbezug im Netz, obwohl die Machart klar erkennbar war.
Sind KI-Deepfakes in der EU kennzeichnungspflichtig?
Ja. Die KI-Verordnung der EU (AI Act) verlangt, KI-erzeugte oder manipulierte Bilder sowie Ton- und Videoinhalte klar als solche zu kennzeichnen. Die Transparenzpflichten aus Artikel 50 gelten unabhängig von den Hausregeln einer Plattform und treffen auch Anbieter, die solche Inhalte veröffentlichen.
Was sollten Unternehmen mit Social-Media-Präsenz jetzt tun?
Kennzeichnen Sie eigene KI-Inhalte sichtbar und richten Sie einen festen Meldeweg für Deepfakes ein, die Ihre Marke oder Beschäftigte imitieren. Dokumentieren Sie kritische Fälle, um bei Bedarf eine Beschwerde nach dem Digital Services Act zu stützen.
Mehr Newshunger?
- xAI verklagt eigene Nutzer wegen Grok-Deepfakes
- Nudify-Verbot: xAI scheitert vor Gericht gegen Minnesotas KI-Gesetz
- 435.000 Euro je Bild: Minnesotas Deepfake-Gesetz bestraft die einfache Bedienung
- EU-Kommission: Instagram und Facebook verstoßen mit süchtig machendem Design gegen den DSA
- KI-Kennzeichnung kommt: Drei Wochen für Ihre Stimme
