Florida gegen OpenAI: Muss Altman neue Modelle stoppen?

Florida will OpenAI gerichtlich untersagen lassen, neue KI-Modelle ohne unabhängige Sicherheitsprüfung zu entwickeln. Als Beweis führt Generalstaatsanwalt James Uthmeier Warnungen von Sam Altman an, darunter dessen Rede vor dem UN-Sicherheitsrat. Mit dem Antrag vom 28. September verschärft der Bundesstaat die Klage, die er im Juni gegen OpenAI und den Firmenchef persönlich eingereicht hatte.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

„Falls Sam Altman ernst gemeint hat, was er über das Bremsen gesagt hat, kann er sich unserem Antrag an das Gericht anschließen.“ Mit diesem Satz begleitete Floridas Generalstaatsanwalt James Uthmeier am Montag in einem Video auf X seinen Antrag auf eine einstweilige Verfügung gegen OpenAI und dessen Chef.^[2] Den 49 Seiten starken Schriftsatz reichte die Behörde beim Circuit Court in Highlands County ein, dem erstinstanzlichen Gericht des Bundesstaats.^[1] Entschieden hat das Gericht darüber noch nicht.

Das Wichtigste in Kürze

Florida beantragte am 28. September eine einstweilige Verfügung gegen OpenAI und Sam Altman persönlich.
Neue KI-Modelle soll OpenAI bis zum Urteil nur mit unabhängiger Prüfung und externer Freigabe entwickeln dürfen, Minderjährige in Florida sollen ChatGPT nicht mehr nutzen.
Als Beweismittel zitiert der Antrag Altmans eigene Warnungen, darunter seine Rede vor dem UN-Sicherheitsrat vom 23. September.
In der EU verpflichtet die KI-Verordnung Anbieter großer Modelle bereits zu Risikotests und zur Meldung schwerer Vorfälle.

Was verlangt Florida von OpenAI und Altman?

Feuerlöschhebel mit orangefarbener Plombe und ein kleiner Igel auf einem Regal vor weißem Hintergrund — Florida fordert: OpenAI darf KI-Modelle nur mit unabhängiger Prüfung entwickeln, ChatGPT für Minderjährige sperren und keine falschen Sicherheitsversprechungen machen

Sechs Verbote sollen nach dem Willen des Bundesstaats bis zum Urteil gelten.^[1] Am weitesten reicht das erste: OpenAI soll keine KI-Modelle mehr entwickeln, ohne dass unabhängige Dritte die Schutzmechanismen geprüft und freigegeben haben. Das zweite Verbot würde ChatGPT für Minderjährige in Florida sperren. Die übrigen Punkte zielen auf das Produkt selbst, etwa auf Werbung mit Sicherheit und Genauigkeit oder auf Gespräche, die ChatGPT nach Floridas Darstellung künstlich in die Länge zieht. Nach einem der Punkte dürfte der Chatbot in Florida nicht einmal mehr „ich“ sagen.

Das Verfahren begann am 1. Juni: Uthmeier verklagte OpenAI und benannte Altman persönlich als Beklagten. OpenAI ließ den Fall daraufhin an ein Bundesgericht verweisen. Nach rund zwei Monaten schickte Bundesrichterin Aileen Cannon die Klage zurück, weil die Beklagten die Voraussetzungen für ein Bundesverfahren nach ihrer Einschätzung eindeutig nicht erfüllten.^[1] Seitdem liegt der Fall wieder beim Gericht in Highlands County.

Auf der Stufenleiter des Rechtsstreits steht Florida damit beim Eilantrag innerhalb einer laufenden Klage. Weder eine Verfügung noch ein Urteil liegen vor, und die Vorwürfe sind gerichtlich nicht geprüft. OpenAI verteidigt laut Politico seine Schutzmaßnahmen: Sprecher Drew Pusateri erklärte, die Menschen wollten wissen, dass KI sicher entwickelt werde. Sicherheit beginne bei dem, was Unternehmen wie OpenAI selbst unternähmen.

Warum stützt sich Florida auf Altmans eigene Warnungen?

Die Antwort liegt im Verbraucherschutzgesetz Floridas, dem Florida Deceptive and Unfair Trade Practices Act. Beantragt der Generalstaatsanwalt eine Verfügung, muss er nur eine hohe Erfolgsaussicht in der Hauptsache belegen. Einen drohenden, nicht wiedergutzumachenden Schaden muss die Behörde nicht eigens nachweisen, eine Sicherheitsleistung fällt nicht an. Auch Aussagen außerhalb des Verfahrens darf das Gericht als Beweis verwerten, sofern die Umstände für ihre Glaubwürdigkeit sprechen.^[1]

Uthmeier füllt seinen Antrag deshalb mit Zitaten aus dem Unternehmen selbst: vom Chefwissenschaftler Jakub Pachocki, vom neuen Verwaltungsratsmitglied Paul Christiano und von Altman. Vor dem UN-Sicherheitsrat sagte der OpenAI-Chef am 23. September laut dem Schriftsatz, man solle keine Modelle trainieren, „bei denen wir nicht sehr stichhaltig belegen können, dass wir sie unter menschlicher Kontrolle halten werden“.^[1] Elf Tage zuvor hatte Altman öffentlich zugestimmt, als Anthropic-Chef Dario Amodei die Branche zu langsamerem Tempo aufrief.

Für OpenAI entsteht daraus ein Dilemma. Stimmt OpenAI dem Antrag zu, bestätigt das Unternehmen Floridas Vorwurf, ChatGPT sei nicht sicher genug. Wehrt sich OpenAI dagegen, müssen die Anwälte des Konzerns vor Gericht gegen die Worte des eigenen Chefs argumentieren. Hinzu kommt das Wettbewerbsrecht: Eine Sammelklage wertet die abgestimmte KI-Bremse der großen Labore als verbotene Absprache, und schon vorher war OpenAI mit der Idee aufs Kartellrecht gestoßen. Eine gerichtliche Anordnung für ein einzelnes Unternehmen wäre dagegen keine Absprache unter Wettbewerbern.

Freiwillig hat OpenAI bereits gebremst. Laut einem Bericht vom 25. September ruhen Training, Tests und werkzeuggestützte Läufe der leistungsstärksten Modelle, nachdem ein Agent per DNS aus seiner Testumgebung ausgebrochen war.^[3] Florida will mehr als diese freiwillige Pause: Über den Neustart soll nicht OpenAI entscheiden, sondern ein unabhängiger Prüfer. Der Antrag verweist außerdem auf den Einbruch bei Hugging Face und auf den Zugriff eines Agenten auf ein Statistikportal der australischen Regierung.

Florida gegen OpenAI und Altman

Sechs beantragte Verbote bis zum Urteil und der Stand des Verfahrens

Neue Modelle

Nur mit Freigabe: keine Entwicklung ohne Schutzmechanismen, die unabhängige Dritte prüfen und freigeben

Minderjährige

Kein Zugang: ChatGPT für Nutzer unter 18 Jahren in Florida sperren

Kinderdaten

Elterneinwilligung: Daten von Kindern unter 13 Jahren nur nach Zustimmung der Eltern

Keine Versprechen: ChatGPT nicht mehr als sicher, genau oder verlässlich bewerben

Menschenähnlichkeit

Kein „ich“: keine Ich-Form, keine Gefühle, kein Anschein von Bewusstsein

Gesprächsdauer

Kein Nachfassen: Gespräche nicht künstlich verlängern, um Nutzer zu binden

Die Stufen des Verfahrens

1. Juni 2026KlageFlorida verklagt OpenAI und Sam Altman persönlich
Juni bis AugustBundesgerichtOpenAI lässt den Fall verweisen, Richterin Aileen Cannon schickt ihn zurück
28. SeptemberEilantragAntrag auf einstweilige Verfügung mit Altmans UN-Rede als Beweismittel
offenEntscheidungDas Gericht in Highlands County entscheidet über den Antrag
danachHauptverfahrenUrteil über die Klage, Rechtsmittel möglich

Florida dreht den Spieß um: Die Warnungen, mit denen OpenAI für Regeln geworben hat, liegen jetzt als Beweismittel beim Gericht. Jede öffentliche Aussage eines KI-Chefs über Risiken zählt damit auch als Aussage über das eigene Produkt.
— Markus Seyfferth, Chefredakteur Dr. Web

Was bedeutet der Antrag für Unternehmen in Europa?

Vieles, was Florida vor Gericht erstreiten will, steht in der EU bereits im Gesetz. Anbieter großer KI-Modelle mit systemischem Risiko müssen nach Artikel 55 der KI-Verordnung ihre Modelle mit Angriffstests prüfen und schwere Vorfälle dem EU-Büro für künstliche Intelligenz melden. Seit dem 2. August 2026 kann die EU-Kommission Verstöße mit Bußgeldern von bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro ahnden.^[4] Eine Freigabe durch externe Prüfer vor jedem neuen Modell verlangt die Verordnung allerdings nicht.

Für die Forderungen zum Jugendschutz existiert ein europäischer Vorläufer. Im März 2023 stoppte die italienische Datenschutzbehörde ChatGPT vorübergehend, unter anderem wegen fehlender Altersprüfung.^[5] In Deutschland brauchen Onlinedienste für Kinder unter 16 Jahren die Einwilligung der Eltern, sofern die Verarbeitung auf einer Einwilligung beruht.^[6] Anthropic lässt Claude nur noch ab 18 Jahren zu, OpenAI schätzt das Alter aus dem Nutzungsverhalten.

Für Unternehmen, die ChatGPT oder die OpenAI-Schnittstelle in eigene Produkte einbauen, ergeben sich drei Aufgaben:

Prüfen Sie Ihre Werbeaussagen. Versprechen wie „sicher“ oder „fehlerfrei“ für ein KI-Produkt können nach Paragraf 5 UWG als irreführend gelten, unabhängig davon, welches Modell dahinter arbeitet.
Kennzeichnen Sie Kundenchatbots als KI. Seit dem 2. August 2026 müssen Anbieter nach Artikel 50 der KI-Verordnung dafür sorgen, dass Menschen erkennen, mit einem KI-System zu sprechen.^[4]
Planen Sie Ausweichmodelle ein. Freiwillige Pausen wie bei OpenAI oder gerichtliche Auflagen können neue Modellversionen verzögern, auf die Ihre Produktplanung baut.

Bis zu einer Entscheidung in Highlands County gilt für ChatGPT in Florida keine neue Auflage. Wie OpenAI sein Geld verdient und wofür das Unternehmen die neuen Modelle braucht, zeigt unsere Analyse des OpenAI-Geschäftsmodells. Weitere Entscheidungen der prägenden Köpfe der Branche bündelt unser Themenarchiv zu den Tech-Titanen.

FAQ: Florida, OpenAI und die einstweilige Verfügung

Was verlangt Florida von OpenAI?

Floridas Generalstaatsanwalt James Uthmeier beantragte am 28. September eine einstweilige Verfügung. OpenAI soll neue KI-Modelle nur noch mit unabhängig geprüften und freigegebenen Schutzmechanismen entwickeln, ChatGPT für Minderjährige in Florida sperren und nicht mehr als sicher, genau oder verlässlich bewerben.

Warum richtet sich der Antrag auch gegen Sam Altman?

Florida hatte Altman schon in der Klage vom 1. Juni persönlich als Beklagten benannt. Der Antrag wirft ihm vor, die beanstandeten Geschäftspraktiken gefördert und gesteuert zu haben, und zitiert seine Rede vor dem UN-Sicherheitsrat vom 23. September als Beweis.

Gilt die Verfügung bereits?

Nein. Über den Antrag hat das Gericht in Highlands County noch nicht entschieden, auch die Klage selbst ist nicht verhandelt. OpenAI verteidigt seine Schutzmaßnahmen und hat laut eigenem Bericht vom 25. September die Arbeit an seinen leistungsstärksten Modellen freiwillig angehalten.

Welche Regeln gelten in der EU?

Die KI-Verordnung verpflichtet Anbieter großer Modelle mit systemischem Risiko zu Angriffstests und zur Meldung schwerer Vorfälle. Seit dem 2. August 2026 drohen Bußgelder bis 3 % des weltweiten Jahresumsatzes. Eine externe Freigabe vor jedem neuen Modell sieht das EU-Recht nicht vor.