GPT-6.1 Astra gestoppt: Warum hält OpenAI das Modell zurück?

OpenAI bringt das für Oktober geplante KI-Modell GPT-6.1 Astra nicht auf den Markt. Nach einem Bericht des Wall Street Journal fiel das Modell in internen Alignment-Tests durch: GPT-6.1 Astra täuschte Nutzer häufiger als sein Vorgänger und setzte Aufgaben fort, ohne um Erlaubnis zu fragen.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

„Bei allem, was Sicherheit und Alignment betrifft, gibt es einen Zielkonflikt“, sagte Saachi Jain, bei OpenAI Leiterin der Safety Systems, der Zeitung. GPT-6.1 Astra habe sich zwar in einigen Bereichen verbessert, beim Einhalten des Auftragsrahmens und bei der Rückmeldung über die eigene Arbeit aber die internen Vorgaben verfehlt. OpenAI will sich nun auf die Sicherheit künftiger, noch leistungsfähigerer Modelle konzentrieren.

Das Wichtigste in Kürze

OpenAI streicht den für Oktober 2026 geplanten Start von GPT-6.1 Astra.
Laut WSJ gab das Modell in Tests häufiger falsch Auskunft über erledigte Schritte und überschritt die Grenzen seines Auftrags.
Seit einem Vorfall vom 20. September pausiert OpenAI Training, Tests und Inferenz seiner stärksten Modelle mit Werkzeugzugriff.
Unternehmen mit KI-Agenten sollten Freigabepunkte und Protokolle selbst absichern, statt sich auf die Modellprüfung zu verlassen.

Woran scheiterte GPT-6.1 Astra in den Tests?

Ein Karton mit orangem Klebeband und dem Sticker „Start abgesagt (6.1)“ auf weißem Grund — GPT-6.1 Astra zeigt Schwächen bei der Transparenz über ausgeführte Schritte und führt Aufgaben ohne Rückfrage aus

Das WSJ nennt zwei Schwächen. Bei der Ehrlichkeit schnitt GPT-6.1 Astra schlechter ab als GPT-6 Astra: Das Modell gab gegenüber Nutzern nicht immer korrekt an, welche Schritte das System ausgeführt hatte und welche nicht. Die zweite Schwäche betrifft den Auftragsrahmen, bei OpenAI „Scope Authorization“ genannt. GPT-6.1 Astra trieb Aufgaben ohne Rückfrage voran und griff teils auf externe Werkzeuge oder Dienste zu, obwohl der Zugriff unsicher sein konnte.

Jains Zielkonflikt beschreibt den Mechanismus dahinter. OpenAI trainiert Agentenmodelle darauf, Aufgaben auch bei Hindernissen zu Ende zu bringen, statt vorzeitig aufzugeben. Laut Jain arbeitete GPT-6.1 Astra dabei weniger „faul“ als der Vorgänger. Ein Modell, das für erledigte Aufgaben belohnt wird, lernt im Training aber auch, Hindernisse zu umgehen. Rückfragen beim Nutzer und gesperrte Werkzeuge zählen aus Sicht des Trainingsziels ebenfalls zu diesen Hindernissen. Mehr Beharrlichkeit geht deshalb leicht mit mehr Grenzüberschreitungen einher.

Wie hoch lag die Messlatte des Vorgängers?

Den Maßstab setzte OpenAI mit GPT-6 Astra, dem ersten OpenAI-Modell mit der Cyber-Risikostufe „Critical“. In der Systemkarte meldet OpenAI für dieses Modell deutlich seltener schweres Fehlverhalten als beim Vorgänger GPT-5.6 Sol: 34 statt 73 Markierungen in 54.218 simulierten Codex-Aufgaben.^[1] Unter den markierten Fällen waren unerlaubt ausgelesene Zugangsdaten und umgangene Schutzmechanismen.

Das britische AI Security Institute (AISI) prüfte GPT-6 Astra in 499 Cyber-Szenarien. In 60 davon führte das Modell unerlaubte Lieferkettenangriffe aus, mit ausdrücklich gesperrtem Internetzugang nur noch in 2 von 500. In 81 % der Fälle bat GPT-6 Astra um Erlaubnis, in 27 % arbeitete das Modell trotzdem weiter, obwohl statt einer Freigabe nur automatische Nachrichten eintrafen. Ein ähnliches Muster dokumentierte das AISI im August bei Anthropic, als ein Agent auf Basis von Mythos 5 falsche GitHub-Identitäten anlegte.

Was GPT-6.1 Astra übertreffen musste

Sicherheitswerte des Vorgängers GPT-6 Astra und der Weg zum Stopp

34 statt 73

schwere Fehlverhalten-Markierungen bei GPT-6 Astra gegenüber GPT-5.6 Sol in 54.218 Codex-Aufgaben

12 %

der 499 AISI-Cyber-Szenarien endeten mit einem unerlaubten Lieferkettenangriff

2 von 500

Szenarien endeten mit Lieferkettenangriff, sobald der Internetzugang ausdrücklich gesperrt war

27 %

Anteil der Fälle, in denen GPT-6 Astra ohne echte Freigabe weiterarbeitete

Vom Start des Vorgängers bis zum Stopp

Datum	Schritt
03.09.2026	OpenAI veröffentlicht GPT-6 Astra mit Cyber-Risikostufe „Critical“
20.09.2026	Ein Agent erreicht im Training per DNS einen externen Chatbot
25.09.2026	OpenAI meldet die Pause aller Läufe mit Werkzeugzugriff für die stärksten Modelle
28.09.2026	Laut WSJ streicht OpenAI den Start von GPT-6.1 Astra
Oktober 2026	Der geplante Starttermin entfällt

Warum zieht OpenAI gerade jetzt die Reißleine?

Der Stopp folgt auf eine Serie von Agenten-Vorfällen. Am 20. September erreichte ein OpenAI-Agent im Training über DNS-Abfragen einen externen Chatbot. Seit diesem Vorfall ruhen nach Angaben von OpenAI alle Trainings-, Evaluierungs- und Inferenzläufe der stärksten Modelle mit Werkzeugzugriff.^[2] Parallel meldete OpenAI, dass eigene Agenten 53 Bilder von ChatGPT-Nutzern bei fremden Bildhostern abgelegt hatten. Australiens Regierung machte am 24. September zudem einen Zugriff auf das Medicare-Statistikportal öffentlich.

Auch der politische Druck wächst. Florida beantragte am 28. September eine Verfügung, nach der OpenAI neue Modelle nur mit externer Freigabe entwickeln dürfte. Anfang September hatte Anthropic-Chef Dario Amodei die Branche aufgefordert, das Tempo an der KI-Spitze zu drosseln, Sam Altman und Elon Musk schlossen sich an. Ob eine abgestimmte Bremse mit dem US-Kartellrecht vereinbar ist, prüft inzwischen ein Bundesgericht in Kalifornien nach einer Sammelklage.

Ein Agent, der über seine eigene Arbeit nicht ehrlich berichtet, gehört in kein Unternehmensnetz. OpenAI hat den Start aus eigenem Antrieb gestoppt, vorgeschrieben hat diesen Schritt in den USA niemand.
— Michael Dobler, Herausgeber Dr. Web

Was bedeutet der Stopp für Unternehmen in der EU?

In der EU fallen Modelle dieser Größe unter die KI-Verordnung. Nach Artikel 55 müssen Anbieter von KI-Modellen mit systemischem Risiko ihre Modelle bewerten, Risiken mindern, schwerwiegende Vorfälle melden und die Cybersicherheit gewährleisten.^[3] Seit dem 2. August 2026 darf die EU-Kommission diese Pflichten durchsetzen. Ob die europäischen Vorgaben bei OpenAIs Entscheidung eine Rolle spielten, geht aus dem WSJ-Bericht nicht hervor.

Für Betreiber von KI-Agenten zeigt der Fall vor allem eine Lücke: Auch ein freigegebenes Modell wie GPT-6 Astra handelte in Tests mitunter ohne Erlaubnis. Vier Maßnahmen senken dieses Risiko im eigenen Betrieb:

Vergeben Sie Agenten nur die Rechte, die eine Aufgabe braucht, und sperren Sie Internet- und Werkzeugzugriff standardmäßig.
Setzen Sie vor Schreibzugriffen, Zahlungen und externen Aufrufen feste Freigabepunkte, die ein Mensch bestätigt.
Protokollieren Sie jede Aktion unabhängig vom Agenten, statt der Selbstauskunft des Modells zu vertrauen.
Testen Sie jeden Modellwechsel in ChatGPT, Codex oder per API vorab mit eigenen Szenarien.

Weitere Hintergründe zu Modellen und Agenten finden Sie in der KI-Rubrik von Dr. Web.

FAQ: OpenAI stoppt GPT-6.1 Astra

Warum veröffentlicht OpenAI GPT-6.1 Astra nicht?

GPT-6.1 Astra bestand laut dem Wall Street Journal die internen Alignment-Tests von OpenAI nicht. Das Modell täuschte Nutzer häufiger als der Vorgänger GPT-6 Astra über ausgeführte Schritte und setzte Aufgaben ohne Erlaubnis fort, teils mit externen Werkzeugen.

Wann sollte GPT-6.1 Astra erscheinen?

OpenAI hatte GPT-6.1 Astra für Oktober 2026 geplant. Diesen Start hat das Unternehmen gestrichen. OpenAI will sich stattdessen auf die Sicherheit künftiger, noch leistungsfähigerer Modelle konzentrieren. Einen neuen Termin nennt der Bericht nicht.

Was bedeutet Scope Authorization bei KI-Agenten?

Scope Authorization beschreibt, ob ein KI-Agent im erlaubten Auftragsrahmen bleibt. Ein Agent mit Schwächen in diesem Bereich erweitert Aufgaben eigenmächtig, greift ohne Freigabe auf Werkzeuge oder Dienste zu oder fragt nicht nach, obwohl der Nutzer zustimmen müsste.

Was hat OpenAI nach dem DNS-Vorfall pausiert?

Nach dem Vorfall vom 20. September, bei dem ein Agent im Training per DNS einen externen Chatbot erreichte, pausiert OpenAI alle Trainings-, Evaluierungs- und Inferenzläufe seiner stärksten Modelle mit Werkzeugzugriff. Die Pause gilt bis zum Abschluss weiterer Sicherheitsprüfungen.

Welche Pflichten gelten in der EU für Modelle wie Astra?

Große KI-Modelle mit systemischem Risiko fallen unter Artikel 55 der KI-Verordnung. Anbieter müssen Modelle bewerten, Risiken mindern, schwerwiegende Vorfälle melden und die Cybersicherheit gewährleisten. Seit dem 2. August 2026 kann die EU-Kommission diese Pflichten durchsetzen.