Kauft OpenAI sich KI-Sicherheit? Definitiv.

OpenAI übernimmt das Security-Startup Promptfoo und integriert dessen Technologie in die Enterprise-Plattform Frontier. Für IT-Entscheider wird die Absicherung von KI-Agenten damit zur Plattformfunktion statt zum Eigenbau-Projekt.

Waren Sie schon in dieser Situation? Ihr Team will KI-Agenten produktiv einsetzen, aber niemand kann belegen, dass die Systeme sicher genug für den Ernstfall sind. OpenAI adressiert genau diese Lücke und kauft dafür das Startup Promptfoo.

Das Wichtigste in Kürze

• OpenAI übernimmt das KI-Sicherheits-Startup Promptfoo und baut dessen Technologie in die Enterprise-Plattform Frontier ein.
• Promptfoo erkennt Schwachstellen wie Prompt Injections, Datenlecks und unkontrolliertes Agentenverhalten automatisch.
• Über 25 % der Fortune-500-Unternehmen nutzen Promptfoo bereits, 130.000 Entwickler arbeiten monatlich mit dem Open-Source-Tool.
• Die Open-Source-Version bleibt erhalten und unterstützt weiterhin Modelle verschiedener Anbieter.

Warum wird Agenten-Sicherheit zum Engpass?

KI-Agenten greifen auf echte Unternehmensdaten zu und führen Aktionen in produktiven Systemen aus. Wer solche Agenten ohne systematisches Sicherheits-Testing ausrollt, riskiert Prompt Injections, Datenlecks und unkontrolliertes Verhalten im Livebetrieb. Genau diese Risiken blockieren in vielen Unternehmen den Schritt vom Prototyp zur Produktion.

Was bringt Promptfoo in die Plattform ein?

Promptfoo wurde 2024 von Ian Webster und Michael D’Angelo gegründet und hat sich auf automatisiertes Red-Teaming und Sicherheitstests für große Sprachmodelle spezialisiert. Die Entwicklerwerkzeuge erkennen Schwachstellen bereits während der Entwicklung. Über 350.000 Entwickler haben die Tools bisher genutzt, und mehr als ein Viertel der Fortune-500-Unternehmen setzt sie produktiv ein.

„Wir haben Promptfoo gegründet, weil Entwickler eine praktische Methode brauchten, KI-Systeme abzusichern. Da KI-Agenten immer stärker mit echten Daten und Systemen verbunden sind, wird ihre Absicherung wichtiger denn je. Der Beitritt zu OpenAI lässt uns diese Arbeit beschleunigen“, sagte Ian Webster, Mitgründer und CEO von Promptfoo.

„Wer KI-Agenten in Unternehmen einsetzt, braucht eingebaute Sicherheit, keine nachträglichen Patches. Dass OpenAI dafür ein ganzes Startup kauft, zeigt: Agent-Security ist kein Nischenthema mehr.“— Markus Seyfferth, Chefredakteur Dr. Web

Was bedeutet der Deal für den Markt?

OpenAI integriert Promptfoo in seine im Februar 2026 gestartete Frontier-Plattform, über die Unternehmen KI-Agenten bauen und verwalten. Srinivas Narayanan, CTO für B2B-Anwendungen bei OpenAI, betonte, Promptfoo bringe tiefgreifende Expertise bei der Absicherung von KI-Systemen im Enterprise-Maßstab mit. Die Übernahme folgt auf den Kauf des Healthcare-Startups Torch im Januar und setzt ein Signal an Wettbewerber wie Anthropic und Google: Wer keine native Governance für Agenten bietet, verliert Enterprise-Kunden. Über den Kaufpreis machten beide Seiten keine Angaben. Promptfoo hatte im Juli 2025 eine Series-A-Runde über rund 17 Mio. € abgeschlossen.

Mehr #OpenAI News
Mehr zu Promptfoo

Quellen

OpenAI – OpenAI to acquire Promptfoo – https://openai.com/index/openai-to-acquire-promptfoo/ – besucht am 13.03.2026

Promptfoo – Promptfoo is joining OpenAI – https://www.promptfoo.dev/blog/promptfoo-joining-openai/ – besucht am 13.03.2026

TechCrunch – OpenAI acquires Promptfoo to secure its AI agents – https://techcrunch.com/2026/03/09/openai-acquires-promptfoo-to-secure-its-ai-agents/ – besucht am 13.03.2026

CNBC – OpenAI to buy cybersecurity startup Promptfoo to better safeguard AI agents – https://www.cnbc.com/2026/03/09/open-ai-cybersecurity-promptfoo-ai-agents.html – besucht am 13.03.2026