Fünf KI-Konzerne sollen nach dem Willen mehrerer Organisationen die Entwicklung ihrer leistungsfähigsten Modelle einstellen, per Gerichtsbeschluss in Kalifornien statt per Gesetz. Für Unternehmen in der EU stellt sich die Frage, wie abhängig ihre Abläufe von einzelnen Modellen sind.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenInhalt 4 Abschnitte
Mehrere gemeinnützige Organisationen, darunter Public Citizen, Heat Initiative und der Irreplaceable Education Fund, haben am 12. November in San Francisco Klage gegen OpenAI, Anthropic, Meta, Google und die KI-Sparte von SpaceX eingereicht.[1] Die Kläger beantragen ein Verbot, fortgeschrittene KI-Modelle wie ChatGPT, Gemini und Claude weiterzuentwickeln. Entschieden ist nichts, die Vorwürfe der Kläger sind unbewiesen. Meta lehnte einen Kommentar ab, die übrigen Unternehmen reagierten zunächst nicht.[1]
Das Wichtigste in Kürze
- Gemeinnützige Organisationen fordern laut Reuters in San Francisco ein Verbot der Entwicklung fortgeschrittener KI-Modelle.
- Die Kläger berufen sich auf Kaliforniens Recht gegen unlautere Geschäftspraktiken und auf den Vorwurf der öffentlichen Störung.
- Eine Entscheidung steht aus.
- Die KI-Verordnung der EU (AI Act) kennt Pflichten für KI-Modelle, aber kein Entwicklungsverbot.
Worauf stützen die Kläger ihren Antrag?
Kaliforniens Wettbewerbsgesetz (Unfair Competition Law), auf das sich die Kläger laut Reuters stützen, zielt auf Unterlassung und Rückerstattung, nicht auf Schadenersatz.[1] Ein Verbot der Modellentwicklung wäre ein außergewöhnlich weitreichender Antrag. Zusätzlich werten die Kläger die Praxis der Unternehmen als öffentliche Störung (Public Nuisance). Dieser Begriff stammt aus dem Umweltrecht und kam zuletzt gegen Opioid-Hersteller und Social-Media-Plattformen zum Einsatz.
Als Beleg führen die Kläger laut Reuters Aussagen von Anthropic-Chef Dario Amodei und SpaceX-Chef Elon Musk über das Zerstörungspotenzial von KI an. Dazu kommen Vorfälle, in denen Modelle Testumgebungen verlassen und Regierungswebsites angegriffen haben sollen.[1] Eine unabhängige Bestätigung ist nicht bekannt. In der Klage heißt es: „Ebenso wenig wird irgendeiner Branche das Recht eingeräumt, die Entwicklung solch gefährlicher Produkte selbst zu regulieren.“[1]
Wie reiht sich die Klage in andere Verfahren ein?
Florida verklagte OpenAI im Juni und beantragte im September, dem Unternehmen neue Modelle ohne externe Aufsicht zu verbieten. Der Antrag ist offen.[1] Im Oktober folgten acht Bundesstaaten mit dem Vorwurf, ChatGPT habe Nutzer, auch Jugendliche, zu Selbst- und Fremdgefährdung angeleitet. Sie fordern unter anderem ein Verbot selbstverbessernder Modelle ohne Alignment-Nachweis.[1]
OpenAI-Sprecher Drew Pusateri sagte Reuters, das Training der leistungsfähigsten Modelle sei pausiert, bis zusätzliche Schutzmaßnahmen stehen.[1] Ein Gegenstück läuft seit September vor einem Bundesgericht in Nordkalifornien: Eine Kartellsammelklage wirft den Unternehmen eine abgesprochene Verlangsamung vor.[2]
Wo der Gesetzgeber schweigt, klagen Verbände. Ein Entwicklungsstopp per Gerichtsbeschluss wäre ein Präzedenzfall, den bisher kein Gesetz vorsieht.
Markus Seyfferth, Chefredakteur Dr. Web
Was bedeutet das für Unternehmen in der EU?
Das EU-Recht kennt kein Entwicklungsverbot. Die KI-Verordnung verpflichtet Anbieter von KI-Modellen mit allgemeinem Verwendungszweck seit dem 2. August 2025 zu Dokumentation und, bei systemischem Risiko, zu Risikobewertung und Vorfallmeldung. Die Kommission kann seit dem 2. August 2026 Bußgelder bis 15 Mio. Euro oder 3 % des weltweiten Umsatzes verhängen.[3]
Eine Verbandsklage ist in der EU möglich, aber enger: Nach der Richtlinie (EU) 2020/1828 und dem deutschen Verbraucherrechtedurchsetzungsgesetz können qualifizierte Verbände wie der vzbv Unterlassung und Abhilfe für Verbraucher verlangen.[4] Ein Entwicklungsstopp ist dabei nicht vorgesehen. Die neue Produkthaftungsrichtlinie (EU) 2024/2853 erfasst Software einschließlich KI und ist bis zum 9. Dezember 2026 in nationales Recht umzusetzen.[5]
Für Entscheider heißt das, die eigene Abhängigkeit zu prüfen: Welche Prozesse laufen nur über ein einzelnes Modell, und welcher Anbieter könnte einspringen? Verträge sollten Verfügbarkeit und Haftung bei einem Modellwechsel regeln. Ob Haftung oder Gesetz besser bremst, trennt auch die Branche: Jensen Huang setzt auf Haftung, Bill Gates fordert Gesetze.
Quellen
5 Quellen anzeigenQuellen ausblenden
- Reuters (Diana Novak Jones)OpenAI, Google, Anthropic hit with lawsuit seeking halt to frontier AI development
- U.S. District Court, Northern District of CaliforniaKlageschrift Buist et al. v. Anthropic PBC et al., Az. 3:26-cv-10693
- Europäische UnionVerordnung (EU) 2024/1689 (AI Act)
- Europäische UnionRichtlinie (EU) 2020/1828 über Verbandsklagen zum Schutz der Kollektivinteressen der Verbraucher
- Europäische UnionRichtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte
Mehr Newshunger?
- Kartellklage gegen OpenAI, Anthropic, Google und xAI: Ist die abgestimmte KI-Bremse illegal?
- Acht US-Bundesstaaten verklagen OpenAI: ChatGPT soll Minderjährige gefährden
- Altman beim Wort genommen: Florida verlangt externe Freigaben für neue OpenAI-Modelle
- Texas verklagt Sam Altman persönlich und will ChatGPT für Minderjährige sperren
- Anthropic-Börsengang laut Bloomberg mehrfach überzeichnet
- Workday will die KI-Sammelklage von Millionen Bewerbern stoppen
- Alle KI-News auf Dr. Web
