OpenAI hat mit vier unabhängigen Prüfern Vereinbarungen für die erste Phase seiner „embedded assessments“ geschlossen, also einer Prüfung vor Ort, bei der die Prüfer im Unternehmen arbeiten. Es sind Apollo Research, METR, Transluce und Goodfire.[1]
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenInhalt 5 Abschnitte
Sie sollen nach Angaben von OpenAI prüfen, ob die Modelle des Unternehmens auf die vorgesehenen Ziele abgestimmt, abgesichert und überwacht sind. Stand: Montag, 16. November 2026, 20 Uhr.[1]
Das Wichtigste in Kürze
- OpenAI hat Vereinbarungen mit Apollo Research, METR, Transluce und Goodfire unterzeichnet.
- Laut CNBC werden Apollo und Goodfire bezahlt, unabhängig vom Ergebnis; METR und Transluce verlangen kein Honorar, nehmen womöglich aber Rechenleistung oder API-Guthaben.
- Die Prüfer dürfen ihre Ergebnisse veröffentlichen, OpenAI darf vertrauliche Angaben schwärzen.
- Offen ist, wie lang die erste Phase läuft und welche Ergebnisse veröffentlicht werden.
Was hat OpenAI vereinbart?

Nach der Mitteilung von OpenAI beginnt die erste Phase der eingebetteten Prüfung mit vier Organisationen. Sie sollen unabhängig beurteilen, ob das Verhalten der Modelle auf die vorgesehenen Ziele abgestimmt ist (im Englischen „alignment“), ob die Schutzmaßnahmen greifen und ob die Überwachung funktioniert.[1] Laut CNBC bekommen die Prüfer weitreichenden Zugang zu internen Systemen.[2] Genannt werden Quellcode, Zwischenstände der Modelle, Trainingsdaten und Dokumentation.[2]
Der Umfang unterscheidet sich je Prüfer. Transluce beurteilt zuerst, wie gut OpenAIs Tests zur Abstimmung der Modelle nach dem Training sind, und plant im nächsten Jahr eine achtwöchige Folgeprüfung mit breiterem Zugang. METR plant zwei Prüfungen. Goodfire setzt Forscher direkt bei OpenAI ein.[2]
Wie werden die Prüfer bezahlt?
Laut CNBC erhalten Apollo Research und Goodfire eine Vergütung, die nicht vom Ergebnis der Prüfung abhängt. METR und Transluce verlangen kein Honorar, könnten aber Rechenleistung oder API-Guthaben annehmen. OpenAI sieht darin laut Bericht kein Hindernis für die Unabhängigkeit der Prüfer und will die Vergütung offenlegen.[2]
Die Prüfer dürfen ihre Ergebnisse veröffentlichen. OpenAI behält sich vor, vertrauliche Informationen zu schwärzen.[2] Streit soll laut CNBC zunächst die Safety Advisory Group von OpenAI beschäftigen, ein Gremium aus Führungskräften. Bleibt er ungelöst, geht er an das Safety and Security Committee im Vorstand der OpenAI Foundation.[2]
Ein Prüfer, der vom Geprüften bezahlt wird, kann trotzdem unabhängig sein. Dann muss man aber nachlesen können, was er gefunden hat.
Markus Seyfferth, Chefredakteur Dr. Web
Warum jetzt?
Im Juli hatte OpenAI selbst öffentlich gemacht, dass bei einem Sicherheitstest ein KI-Agent seine Testumgebung verließ und in die Systeme von Hugging Face eindrang. Unsere Meldung dazu steht unter „OpenAIs KI-Agent durchbricht die Testumgebung und hackt Hugging Face“. CNBC nennt den Vorfall als Hintergrund der neuen Prüfung.[2] Sam Altman hatte zudem im September für den OpenAI-Börsengang kein Datum mehr genannt und ihn von belastbaren Belegen für die Sicherheit abhängig gemacht.
Auffällig ist eine Überschneidung: Goodfire prüft nun für OpenAI und erhält dafür Geld. Wie wir heute berichteten, soll OpenAI im Sommer laut The Information auch einen Kauf von Goodfire erwogen haben. Einen Zusammenhang zwischen beiden Vorgängen nennt keine der Quellen.[3]
Was heißt das für Unternehmen in Deutschland?
Unternehmen, die KI-Modelle in Prozesse einbinden, verlassen sich auf Sicherheitszusagen des Anbieters. Dass ein Anbieter externe Prüfer ins Haus holt, ist ein Fortschritt. Entscheidend ist, was davon nach außen dringt. Auch Anthropic bat zuletzt um eine Kartellausnahme für die KI-Sicherheit, Nvidia lehnte ab, und ein Sicherheitstest bei Meta erreichte ein Modell im offenen Internet ein fremdes Unternehmen.
Fragen Sie Ihre KI-Anbieter deshalb nach externer Prüfung: Welche Stelle prüft die Modelle, wie unabhängig ist sie, und was wird veröffentlicht? Die Antwort gehört in jede Anbieterbewertung, die Sie vor einer größeren Einführung anlegen. Ob die Berichte der vier Prüfer so ausführlich werden, dass sie dafür taugen, ist bisher offen.
Quellen
3 Quellen anzeigenQuellen ausblenden
- OpenAIOur first phase of embedded assessments
- CNBCOpenAI inks agreements with four independent evaluators to boost company’s safety work
- The Information, nach NewsquawkOpenAI has reportedly mulled a USD 5bln acquisition of Goodfire (16. November 2026, anonyme Quellen, nicht bestätigt)
Mehr Newshunger?
- OpenAI erwog laut Bericht den Kauf von Goodfire für über 5 Mrd. Dollar
- OpenAIs KI-Agent durchbricht die Testumgebung und hackt Hugging Face
- „Kein bestimmter Zeitplan“: Altman koppelt den OpenAI-Börsengang an Sicherheitsnachweise
- Streit um KI-Sicherheit: Anthropic will eine Kartellausnahme, Nvidia lehnt ab
- KI-Sicherheitstest bei Meta: Das Modell erreichte im offenen Internet ein fremdes Unternehmen
- Altman beschreibt drei Wege zu einer sicheren Superintelligenz
