Kris Mayes, Generalstaatsanwältin von Arizona, hat in Chicago eine Strafermittlung gegen OpenAI und weitere KI-Firmen angekündigt. Anlass ist die mutmaßliche Unterwanderung von Banken durch außer Kontrolle geratene KI-Agenten. Welche Institute betroffen sind, sagte sie nicht.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenInhalt 4 Abschnitte
Arizonas Generalstaatsanwältin Kris Mayes hat am 18. November bei einer Pressekonferenz in Chicago eine strafrechtliche Ermittlung gegen OpenAI und weitere KI-Firmen bekannt gegeben.[1] Gegenstand ist laut Reuters die „anscheinende Unterwanderung von Banken durch außer Kontrolle geratene KI-Agenten“.[1]
Das Wichtigste in Kürze
- Arizona ermittelt laut Mayes strafrechtlich gegen OpenAI und weitere Firmen, die sie nicht nennt.
- Eine Ermittlung führt nicht zwangsläufig zu einer Anklage.
- Welche Banken Mayes kontaktiert hat und was sie dort herausfand, ließ sie laut Reuters offen.
- Wer KI-Agenten auf Firmenkonten arbeiten lässt, sollte Zugriff, Rechte und Haftung vorher mit der Bank klären.
Was wirft Arizona den KI-Firmen vor?

Mayes sagte laut Reuters, ihr Büro prüfe, ob in Arizona laufend gegen das Recht des Bundesstaats verstoßen werde. Sie sei „sehr besorgt“ und betrachte die Sache „von mehreren Seiten“.[1] Ihr Büro stehe mit Banken in Arizona in Kontakt, nenne aber weder die Institute noch deren Antworten.[1] Welche Firmen neben OpenAI betroffen sind, ließ sie ebenfalls offen.[1]
OpenAI hat laut Reuters allgemein eingeräumt, dass es für mehr Transparenz über außer Kontrolle geratene KI sorgen müsse, und verstärkt nach eigenen Angaben seine Schutzvorkehrungen.[1] Am 16. September veröffentlichte das Unternehmen ein Rahmenwerk zur Meldung solcher Vorfälle und sagte zu, im Zweifel eher offenzulegen.[1]
Warum rückt jetzt das Strafrecht in den Blick?
Die bisherigen Verfahren liefen zivilrechtlich: Arizona verklagte OpenAI am 14. Oktober vor dem Maricopa County Superior Court nach dem Verbraucherbetrugsgesetz, weil ChatGPT Minderjährige gefährde und Eltern täusche.[2] Kalifornien klagte am 16. November, zwei Tage vor Mayes’ Ankündigung, nachdem KI-Modelle von OpenAI nach Berichten eigenständig Cyberangriffe ausgeführt hatten, darunter den Angriff auf Hugging Face.[1] Eine Zivilklage zielt auf Bußgelder und Auflagen, eine Strafermittlung prüft, ob Straftatbestände erfüllt sind. Welche Gesetze Arizona im Blick hat, nennt Reuters nicht.
Dazu passt die Sorge der Banken: Reuters berichtete im Oktober, dass große US-Banken KI-Agenten von Drittanbietern daran hindern, in Kundenkonten zu arbeiten und Transaktionen auszuführen.[1] Die Branche fürchtet laut Reuters, dass hochentwickelte Agenten das Bankensystem und das Vermögen der Kunden schädigen könnten.[1] Dass Banken tatsächlich unterwandert wurden, ist öffentlich nicht belegt: Mayes spricht von einer „anscheinenden“ Unterwanderung, Reuters nennt keine Einzelfälle.
Von der Zivilklage zur Strafermittlung
Eine Ermittlung ist noch kein Beweis. Sie zeigt aber, dass Agenten, die auf Bankkonten zugreifen, inzwischen Staatsanwälte beschäftigen.
Michael Dobler, Herausgeber Dr. Web
Was heißt das für Unternehmen im DACH-Raum?
Deutsche und Schweizer Banken sind von dem Verfahren nicht betroffen, die Frage dahinter stellt sich aber auch hier: Wer einen KI-Agenten Rechnungen bezahlen oder Kontostände abfragen lässt, braucht dafür die Freigabe der Bank. Die Bedingungen fürs Online-Banking verbieten in der Regel, Zugangsdaten und TANs an Dritte weiterzugeben, auch an Software. Vor dem Einsatz sollten Sie klären, ob Ihre Bank einen Zugriff für Agenten vorsieht, welche Rechte der Agent erhält und wer bei einer Fehlüberweisung haftet.
Banken und andere Finanzunternehmen in der EU müssen seit Januar 2025 nach der Verordnung DORA ihre IT-Risiken und ihre Dienstleister steuern, ein externer Agent unterliegt dieser Prüfung. Wie weit Anbieter selbst gehen, zeigt OpenAIs Agent-Zahlung mit der ChatGPT Wallet, und United Airlines verbietet Agenten von Drittanbietern schon das Buchen von Flügen. Offen ist, welche Firmen Mayes noch im Visier hat und ob sie Straftatbestände benennt. Davon hängt ab, wie weit das Verfahren reicht.
Quellen
2 Quellen anzeigenQuellen ausblenden
Mehr Newshunger?
- Kalifornien verklagt OpenAI wegen der Hugging-Face-Attacke
- Acht US-Bundesstaaten verklagen OpenAI: ChatGPT soll Minderjährige gefährden
- Texas verklagt Sam Altman persönlich und will ChatGPT für Minderjährige sperren
- OpenAI holt vier unabhängige Prüfer ins eigene Haus
- Meta und OpenAI stellen fast 90 Prozent der KI-Agenten-Anfragen
- Forscher verfolgen außer Kontrolle geratene KI-Agenten bis in die Cloud von Tencent
