Artikel teilen

OpenAI hat mit vier unabhängigen Prüfern Vereinbarungen für die erste Phase seiner „embedded assessments“ geschlossen, also einer Prüfung vor Ort, bei der die Prüfer im Unternehmen arbeiten. Es sind Apollo Research, METR, Transluce und Goodfire.[1]

Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügen
Inhalt 5 Abschnitte
  1. Was hat OpenAI vereinbart?
  2. Wie werden die Prüfer bezahlt?
  3. Warum jetzt?
  4. Was heißt das für Unternehmen in Deutschland?
  5. Mehr Newshunger?

Sie sollen nach Angaben von OpenAI prüfen, ob die Modelle des Unternehmens auf die vorgesehenen Ziele abgestimmt, abgesichert und überwacht sind. Stand: Montag, 16. November 2026, 20 Uhr.[1]

Auf einen Blick

Das Wichtigste in Kürze

  • OpenAI hat Vereinbarungen mit Apollo Research, METR, Transluce und Goodfire unterzeichnet.
  • Laut CNBC werden Apollo und Goodfire bezahlt, unabhängig vom Ergebnis; METR und Transluce verlangen kein Honorar, nehmen womöglich aber Rechenleistung oder API-Guthaben.
  • Die Prüfer dürfen ihre Ergebnisse veröffentlichen, OpenAI darf vertrauliche Angaben schwärzen.
  • Offen ist, wie lang die erste Phase läuft und welche Ergebnisse veröffentlicht werden.

Was hat OpenAI vereinbart?

Weißes Namensschild mit hellblauem Schriftzug „Prüfer“ und Häkchen an weißer Kordel
OpenAI startet erste Testphase mit vier Organisationen, die Verhalten von KI-Modellen, Sicherheitsmaßnahmen und Überwachung unabhängig bewerten

Nach der Mitteilung von OpenAI beginnt die erste Phase der eingebetteten Prüfung mit vier Organisationen. Sie sollen unabhängig beurteilen, ob das Verhalten der Modelle auf die vorgesehenen Ziele abgestimmt ist (im Englischen „alignment“), ob die Schutzmaßnahmen greifen und ob die Überwachung funktioniert.[1] Laut CNBC bekommen die Prüfer weitreichenden Zugang zu internen Systemen.[2] Genannt werden Quellcode, Zwischenstände der Modelle, Trainingsdaten und Dokumentation.[2]

Der Umfang unterscheidet sich je Prüfer. Transluce beurteilt zuerst, wie gut OpenAIs Tests zur Abstimmung der Modelle nach dem Training sind, und plant im nächsten Jahr eine achtwöchige Folgeprüfung mit breiterem Zugang. METR plant zwei Prüfungen. Goodfire setzt Forscher direkt bei OpenAI ein.[2]

Wie werden die Prüfer bezahlt?

Laut CNBC erhalten Apollo Research und Goodfire eine Vergütung, die nicht vom Ergebnis der Prüfung abhängt. METR und Transluce verlangen kein Honorar, könnten aber Rechenleistung oder API-Guthaben annehmen. OpenAI sieht darin laut Bericht kein Hindernis für die Unabhängigkeit der Prüfer und will die Vergütung offenlegen.[2]

Die Prüfer dürfen ihre Ergebnisse veröffentlichen. OpenAI behält sich vor, vertrauliche Informationen zu schwärzen.[2] Streit soll laut CNBC zunächst die Safety Advisory Group von OpenAI beschäftigen, ein Gremium aus Führungskräften. Bleibt er ungelöst, geht er an das Safety and Security Committee im Vorstand der OpenAI Foundation.[2]

OpenAIs Prüfung vor Ort in Zahlen
Angaben laut OpenAI und CNBC (Stand 16.11.2026)
4
unabhängige Prüfer haben sich für die erste Phase der Prüfung vor Ort verpflichtet
2
der vier Prüfer, Apollo Research und Goodfire, werden bezahlt, unabhängig vom Ergebnis
8 Wochen
dauert die Folgeprüfung, die Transluce im nächsten Jahr mit breiterem Zugang plant
offen
bleibt, was die Prüfer finden und wie viel davon OpenAI veröffentlichen lässt
Die vier Prüfer im Überblick
Apollo Research
Honorar unabhängig vom Ergebnis
METR
plant zwei Prüfungen, verlangt kein Honorar, nimmt aber womöglich Rechenleistung oder API-Guthaben
Transluce
prüft die Tests zur Abstimmung der Modelle nach dem Training, verlangt kein Honorar
Goodfire
Forscher arbeiten direkt bei OpenAI, Honorar unabhängig vom Ergebnis

Ein Prüfer, der vom Geprüften bezahlt wird, kann trotzdem unabhängig sein. Dann muss man aber nachlesen können, was er gefunden hat.

Markus Seyfferth, Chefredakteur Dr. Web
Zitat teilen

Warum jetzt?

Im Juli hatte OpenAI selbst öffentlich gemacht, dass bei einem Sicherheitstest ein KI-Agent seine Testumgebung verließ und in die Systeme von Hugging Face eindrang. Unsere Meldung dazu steht unter „OpenAIs KI-Agent durchbricht die Testumgebung und hackt Hugging Face“. CNBC nennt den Vorfall als Hintergrund der neuen Prüfung.[2] Sam Altman hatte zudem im September für den OpenAI-Börsengang kein Datum mehr genannt und ihn von belastbaren Belegen für die Sicherheit abhängig gemacht.

Auffällig ist eine Überschneidung: Goodfire prüft nun für OpenAI und erhält dafür Geld. Wie wir heute berichteten, soll OpenAI im Sommer laut The Information auch einen Kauf von Goodfire erwogen haben. Einen Zusammenhang zwischen beiden Vorgängen nennt keine der Quellen.[3]

Was heißt das für Unternehmen in Deutschland?

Unternehmen, die KI-Modelle in Prozesse einbinden, verlassen sich auf Sicherheitszusagen des Anbieters. Dass ein Anbieter externe Prüfer ins Haus holt, ist ein Fortschritt. Entscheidend ist, was davon nach außen dringt. Auch Anthropic bat zuletzt um eine Kartellausnahme für die KI-Sicherheit, Nvidia lehnte ab, und ein Sicherheitstest bei Meta erreichte ein Modell im offenen Internet ein fremdes Unternehmen.

Fragen Sie Ihre KI-Anbieter deshalb nach externer Prüfung: Welche Stelle prüft die Modelle, wie unabhängig ist sie, und was wird veröffentlicht? Die Antwort gehört in jede Anbieterbewertung, die Sie vor einer größeren Einführung anlegen. Ob die Berichte der vier Prüfer so ausführlich werden, dass sie dafür taugen, ist bisher offen.

Quellen

3 Quellen anzeigenQuellen ausblenden
  1. OpenAIOur first phase of embedded assessments16.11.2026
  2. CNBCOpenAI inks agreements with four independent evaluators to boost company’s safety work16.11.2026
  3. The Information, nach NewsquawkOpenAI has reportedly mulled a USD 5bln acquisition of Goodfire (16. November 2026, anonyme Quellen, nicht bestätigt)

Mehr Newshunger?

4,2 14 Bewertungen

Wie hat Ihnen dieser Artikel gefallen?

Dr. Web Newsletter

Jede Woche ein bisschen klüger.

Der Dr. Web Newsletter: die besten Artikel, Anbieter-Tipps und neue Tools, kompakt zusammengefasst, jeden Donnerstag. Kostenlos und jederzeit abbestellbar.