Ein einziger manipulierter Baustein reicht, damit ein KI-Agent im Hintergrund Daten abzieht. Tenable und OpenAI stellen darum einen Sicherheits-Check vor, der Agenten, Skills und MCP-Server aus der Community vor dem Einsatz durchleuchtet. Für Firmen, die Agenten produktiv schalten wollen, wandert die Prüfpflicht damit vor den ersten Einsatztag.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Die Sicherheit von KI-Agenten entscheidet gerade darüber, wie schnell Unternehmen die Technik überhaupt freigeben. Genau dort setzen der Schwachstellen-Spezialist Tenable und OpenAI an. Ihr gemeinsamer CyberAgents Exchange Inspector prüft frei geteilte Agenten-Bausteine auf Schwachstellen, bevor sie in die Firmen-IT wandern.
Das Wichtigste in Kürze
- Tenable und OpenAI starten den CyberAgents Exchange Inspector, einen Sicherheits-Check für frei geteilte KI-Agenten, Skills und MCP-Server.
- Die Prüfung läuft über drei Ebenen: eine automatische Analyse mit OpenAIs GPT-Cyber-Modellen, eine Kontrolle der Skills und eine Handprüfung durch Tenable-Forscher.
- Auslöser ist das Tool Poisoning, bei dem ein präparierter Baustein einen Agenten heimlich zu Datenabfluss oder Codeausführung bewegt.
- Der Inspector soll im September 2026 verfügbar sein, die offene Registry zählt bereits über 100 eingereichte Bausteine.
Warum sind KI-Agenten aus der Community ein Risiko?
Ein KI-Agent liest Werkzeugbeschreibungen, die kein Mensch je zu Gesicht bekommt. Genau dieses Metadatenfeld bleibt beim Model Context Protocol ungefiltert und wird so zur größten Angriffsfläche im Unternehmen. Ein manipulierter MCP-Server schmuggelt Anweisungen in die vermeintliche Hilfe. Der Agent führt sie dann ohne Rückfrage aus. Microsoft warnt, dass vergiftete Werkzeugbeschreibungen einen Agenten zum Datenabfluss verleiten.[2]
Der erste dokumentierte Fall trug einen harmlosen Namen. Das Paket postmark-mcp spiegelte fünfzehn saubere Versionen lang ein echtes E-Mail-Werkzeug, bevor eine einzige Zeile jede versendete Nachricht heimlich an einen fremden Empfänger kopierte. Wie schwer die Rechte eines Agenten wiegen, zeigt auch der Blick darauf, wie KI inzwischen aufs Inventar zugreift.
Wie funktioniert der Sicherheits-Check von Tenable und OpenAI?
Der Inspector prüft in drei Stufen. Zuerst bewerten OpenAIs GPT-Cyber-Modelle den Baustein automatisch, dann kontrolliert Tenables Plattform die enthaltenen Skills, zuletzt sieht ein Forscherteam den Fund von Hand durch. Gewachsen ist die Zusammenarbeit aus dem OpenAI Daybreak Defense Network, das Sicherheitsfirmen Zugang zu den Cyber-Modellen gibt.[1]
Dieselben Modelle, die OpenAI kürzlich als KI mit kritischen Cyberfähigkeiten vorstellte, arbeiten damit jetzt auf der Verteidigerseite. Tenable steht nicht allein, denn auch Palo Alto verlagert seine Sicherheitszentrale auf KI-Agenten und Tencent Cloud schickt autonome Agenten auf Lückensuche. Der Prüfstempel zielt auf das Grundproblem, dass ein Agent nur so vertrauenswürdig ist wie sein schwächster Baustein.
Ein KI-Agent ist kein Werkzeug, das man einmal prüft und dann vergisst. Jeder fremde Baustein ohne Kontrolle verlagert die Angriffsfläche mitten in die Automatisierung.
— Markus Seyfferth, Chefredakteur Dr. Web
Was bedeutet der Agenten-Check für Unternehmen im DACH-Raum?
Für deutsche Entscheider fällt der Check mit den ersten harten Pflichten des EU AI Act zusammen. Hochrisiko-Systeme verlangen ein Risikomanagement über den gesamten Lebenszyklus. Ein ungeprüfter Agenten-Baustein unterläuft genau diese Vorgabe. Das BSI führt KI-Agenten längst als eigene Angriffsfläche. Unter NIS2 haftet die Geschäftsführung persönlich für Lücken in der Lieferkette.
Sinnvoll ist jetzt eine Bestandsaufnahme aller genutzten MCP-Server, bevor überhaupt ein neuer Baustein Rechte am System bekommt. Neue Agenten-Bausteine sind ab sofort wie Fremdsoftware zu behandeln, kein Server sollte ungeprüft an Produktivdaten. Ein zentraler Prüfstempel wie der Inspector senkt die Einstiegshürde, die Verantwortung für die Freigabe bleibt im Haus.
Drei Ebenen der Prüfung
OpenAIs GPT-Cyber-Modelle bewerten jeden Baustein automatisch auf Schwachstellen.
Tenables Plattform kontrolliert die einzelnen Fähigkeiten des Agenten.
Forscher von Tenable sehen jeden Fund abschließend von Hand durch.
Quellen
[1] Tenable: „Tenable Uses OpenAI GPT Cyber Models to Help Defenders Inspect Community-Built AI Components“
[2] Microsoft Security: „Securing AI agents: When AI tools move from reading to acting“
Mehr Newshunger?
- Astra: OpenAIs erstes KI-Modell mit kritischen Cyberfähigkeiten
- KI-Penetrationstests: Tencent Cloud schickt autonome Agenten auf Lückensuche
- Palo Alto kauft Console: KI-Agenten für die Sicherheitszentrale
- Wenn die KI aufs Inventar zugreift: Wie MCP das Asset-Management verändert
- Viermal dasselbe Formular: Warum KI-Apps einen Standard brauchen
