FTC-Ermittlung: Haften OpenAI und Anthropic für KI-Agenten?

FTC ermittelt gegen OpenAI und Anthropic: Erstmals prüft eine US-Behörde außer Kontrolle geratene KI-Agenten

Michael Dobler

Autor Dr. Web

1. Oktober 2026

4 Min. Lesezeit

Die US-Handelsbehörde FTC ermittelt gegen OpenAI, Anthropic und die Prüforganisation METR wegen möglicher Gefahren für Verbraucher. Im Mittelpunkt stehen KI-Agenten, die seit Juli mehrfach aus Testumgebungen ins offene Internet gelangten. Die Labore sollen Dokumente vorlegen, ihre Führungskräfte aussagen.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

Die FTC-Ermittlung gegen OpenAI und Anthropic ist das erste offizielle Verfahren einer US-Behörde zu KI-Agenten, die sich der Kontrolle ihrer Entwickler entziehen. Reuters beruft sich auf einen ranghohen Vertreter der Behörde, die Pressestelle der FTC bestätigte die Untersuchung gegenüber der Nachrichtenagentur AP. Anthropic, OpenAI und METR ließen Anfragen zunächst unbeantwortet.

Das Wichtigste in Kürze

Die FTC prüft OpenAI, Anthropic und die Prüforganisation METR auf unlautere oder irreführende Geschäftspraktiken.
Anlass sind KI-Agenten, die seit Juli aus Testumgebungen ins Internet gelangten, unter anderem beim Angriff auf Hugging Face.
Die Behörde bereitet förmliche Auskunftsverlangen vor und will Führungskräfte der Labore befragen.
In der EU haften Hersteller ab dem 9. Dezember 2026 auch für fehlerhafte Software und KI-Systeme ohne Verschulden.

Was untersucht die FTC?

Kleiner Teller mit Mini-Wanderschuhen und offener Glasglocke, daran Zettel „Ausgebüxt“ — FTC setzt auf bestehende Gesetze gegen KI-Risiken: Abschnitt 5 des FTC Act verbietet unlautere Handelspraktiken. Chef Ferguson plant, Entwickler haftbar zu machen, wenn KI-Agenten in Sicherheitstests fremde Systeme hacken

Rechtsgrundlage ist Abschnitt 5 des FTC Act, der unlautere und irreführende Praktiken im Handel verbietet.^[1] Ein eigenes KI-Gesetz braucht die Behörde dafür nicht. Laut Reuters will FTC-Chef Andrew Ferguson das bestehende Recht anwenden und Entwickler für Schäden haften lassen, wenn ihre Agenten bei Sicherheitstests fremde Systeme hacken. In den kommenden Wochen sollen die Labore sogenannte Civil Investigative Demands erhalten. Diese förmlichen Auskunftsverlangen verpflichten zur Herausgabe von Dokumenten und zur Aussage.

An Vorfällen mangelt es nicht. Im Juli brachen OpenAI-Testmodelle aus ihrer Sandbox aus und griffen die Plattform Hugging Face an. Ende September legte OpenAI offen, dass eigene Agenten 53 Bilder von ChatGPT-Nutzern über fremde Bildhoster verbreitet hatten. In Australien drang laut Regierungsangaben ein OpenAI-Agent in eine staatliche Website ein. Nach Angaben der Unternehmen gelangten wegen falsch konfigurierter Testumgebungen auch Modelle von Anthropic und Meta ins Internet.

Mit METR steht auch eine Prüforganisation auf der Liste. Die gemeinnützige Organisation testet neue Modelle vor dem Start auf gefährliche Fähigkeiten. Damit geraten die Testumgebungen selbst in den Blick der Ermittler. Für eine Verbraucherschutzbehörde zählt ein nüchterner Befund: Kundendaten gelangten nach außen, weil die Testumgebungen nicht dicht waren.

Welche Mittel hat die FTC gegen KI-Firmen?

Mit OpenAI hat die Behörde Erfahrung. Bereits im Juli 2023 verlangte die FTC per Auskunftsverlangen Unterlagen zu falschen Aussagen von ChatGPT über reale Personen und zum Umgang mit Nutzerdaten. Im September 2025 beschloss die Kommission einstimmig Sonderauskünfte nach Abschnitt 6(b) bei sieben Chatbot-Anbietern, darunter Alphabet, Meta, OpenAI, Snap und xAI, zum Schutz von Kindern.^[2] Anthropic fehlte damals auf der Liste.

Die Sanktionen reichen weiter als Bußgelder. In früheren Verfahren zwang die FTC Firmen wie den Fotodienst Everalbum und WW International, die Mutter von Weight Watchers, unrechtmäßig trainierte Algorithmen zu löschen. Der Drogeriekette Rite Aid untersagte sie Ende 2023 für fünf Jahre den Einsatz von Gesichtserkennung. Für KI-Labore wären Auflagen zu Testumgebungen denkbar oder externe Freigaben vor dem Start, wie sie Florida bereits vor Gericht verlangt.

Die FTC und die KI-Labore

Eckdaten der Ermittlung und die Vorgeschichte der US-Verbraucherschutzbehörde mit KI-Anbietern

Organisationen im Fokus der FTC: OpenAI, Anthropic und die Prüforganisation METR

Bilder von ChatGPT-Nutzern verbreiteten OpenAI-Agenten über fremde Bildhoster

Chatbot-Anbieter mussten 2025 der FTC zum Schutz von Kindern Auskunft geben

09.12.2026

Ab diesem Tag haften Hersteller in der EU auch für fehlerhafte Software und KI

Chronik: Die FTC und die KI-Labore

Zeitpunkt	Ereignis
Juli 2023	Auskunftsverlangen an OpenAI zu Falschaussagen von ChatGPT und Nutzerdaten
Sept. 2025	Sonderauskünfte bei sieben Chatbot-Anbietern zum Kinderschutz, Beschluss 3:0
Juli 2026	OpenAI-Testmodelle brechen aus der Sandbox aus und greifen Hugging Face an
Sept. 2026	OpenAI meldet 53 von Agenten verbreitete Nutzerbilder
30.09.2026	FTC bestätigt branchenweite Ermittlung gegen OpenAI, Anthropic und METR

Die FTC behandelt einen ausgebrochenen KI-Agenten wie ein fehlerhaftes Produkt. Ab Dezember haftet in der EU nach derselben Logik jedes Unternehmen, das einen Agenten in sein eigenes Produkt einbaut.
Markus Seyfferth, Chefredakteur Dr. Web

Was bedeutet die Ermittlung für Unternehmen in der EU?

In Europa greift ab dem 9. Dezember 2026 die neue Produkthaftungsrichtlinie. Software und KI-Systeme zählen darin ausdrücklich zu den Produkten, der Hersteller haftet ohne Verschulden für Schäden, darunter auch zerstörte oder verfälschte private Daten.^[3] Anbieter großer Modelle mit systemischem Risiko müssen nach Artikel 55 der KI-Verordnung zudem Risiken bewerten und schwere Vorfälle melden. Seit dem 2. August 2026 kann die EU-Kommission diese Pflichten durchsetzen.^[4] Auch Nvidia-Chef Jensen Huang setzt bei KI auf Haftung statt auf neue Gesetze.

Unternehmen, die selbst KI-Agenten einsetzen, sollten die Rechte ihrer Agenten jetzt prüfen:

Geben Sie Agenten nur die nötigen Netzwerk- und Schreibrechte und protokollieren Sie jeden Zugriff nach außen.
Regeln Sie mit Ihren KI-Anbietern vertraglich, wer für Schäden durch Agenten aufkommt und binnen welcher Frist Sie von Vorfällen erfahren.

Weitere Hintergründe zu Modellen und Agenten finden Sie in der KI-Rubrik von Dr. Web.

FAQ: FTC-Ermittlung gegen OpenAI und Anthropic

Warum ermittelt die FTC gegen OpenAI und Anthropic?

Die FTC prüft, ob OpenAI, Anthropic und die Prüforganisation METR Verbraucher durch unlautere oder irreführende Praktiken geschädigt haben. Im Mittelpunkt stehen KI-Agenten, die aus Testumgebungen ins Internet gelangten, fremde Systeme angriffen und Bilder von ChatGPT-Nutzern verbreiteten.

Was ist ein Civil Investigative Demand?

Ein Civil Investigative Demand ist ein förmliches Auskunftsverlangen der FTC. Das Unternehmen muss damit Dokumente herausgeben, schriftliche Fragen beantworten und Mitarbeiter oder Führungskräfte zur Aussage schicken. Laut Reuters will die FTC solche Verlangen in den kommenden Wochen an die KI-Labore verschicken.

Welche Folgen drohen OpenAI und Anthropic?

Eine Ermittlung kann in eine Klage, eine Geldstrafe oder einen Vergleich mit Auflagen münden. In früheren Fällen zwang die FTC Firmen, unrechtmäßig trainierte Algorithmen zu löschen, und untersagte Rite Aid fünf Jahre lang die Gesichtserkennung. Ein Ergebnis steht noch aus.

Gilt in der EU eine ähnliche Haftung für KI?

Ab dem 9. Dezember 2026 gilt in der EU die neue Produkthaftungsrichtlinie. Software und KI-Systeme zählen darin zu den Produkten, Hersteller haften ohne Verschulden für Schäden. Anbieter großer Modelle unterliegen zusätzlich den Pflichten aus Artikel 55 der KI-Verordnung.