Nvidia hat gemeinsam mit Microsoft, IBM, SAP und Siemens die „Open Secure AI Alliance“ gegründet, ein Bündnis für offene Werkzeuge gegen KI-gestützte Angriffe. OpenAI, Anthropic, Google und Meta gehören nicht dazu. Die vier führenden Anbieter geschlossener Modelle bleiben damit außerhalb der Sicherheitsinitiative ihrer Branche.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Die Open Secure AI Alliance ist am 27. Juli 2026 gestartet und bündelt offene Modelle, Prüfrahmen und Abwehrwerkzeuge, die Unternehmen selbst betreiben und einsehen können.[1] Den Anlass lieferte ein Einbruch bei Hugging Face wenige Tage zuvor. Dort blockierten die kommerziellen KI-Werkzeuge ausgerechnet die forensische Arbeit, weil ihre Sicherheitsfilter Angreifer und Verteidiger nicht auseinanderhalten konnten.
Das Wichtigste in Kürze
- Gründungsmitglieder sind unter anderem Microsoft, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Hugging Face, SAP und Siemens.
- Jedes Mitglied steuert eine bestehende Open-Source-Technik bei, keine Absichtserklärung.
- OpenAI, Anthropic, Google und Meta fehlen, obwohl Meta drei Tage zuvor den Branchenbrief gegen Beschränkungen offener Modelle mitgezeichnet hatte.
- Die Allianz verlangt von Regierungen, offene Modelle als Verteidigungsmittel einzustufen statt als Risiko.
Welche Konzerne gehören zum Bündnis?
Die Liste der Gründungsmitglieder reicht von Microsoft, IBM, Red Hat, Dell und HPE über Cisco, Cloudflare, CrowdStrike und Palo Alto Networks bis zu Salesforce, ServiceNow, Snowflake, Synopsys und der Linux Foundation.[1] Aus dem deutschsprachigen Raum sind SAP und Siemens dabei.
Jedes Haus bringt eine fertige Open-Source-Technik ein. Nvidia öffnet Modelle, Gewichte und Daten samt seiner Forschung an Agenten-Harnessen, Microsoft steuert MDASH bei, einen Verbund spezialisierter Agenten, der ausnutzbare Fehler aufspürt und den Nachweis gleich mitliefert.[1]
HPE bringt die Standards SPIFFE und SPIRE ein, mit denen sich KI-Agenten kryptografisch ausweisen. IBM und Red Hat erweitern Lightwell um digital signierte Patches für die Lieferkette. SpaceXAI hat den Coding-Agenten Grok Build bereits offengelegt und will die Gewichte der Grok-Modelle nachziehen.
Warum verweigerten die geschlossenen Modelle die Analyse?
Forensik sieht für einen Sicherheitsfilter genauso aus wie ein Angriff. Bei der Rekonstruktion eines Einbruchs liest ein Team Schadcode, spielt Exploit-Schritte nach und formuliert Angriffsmuster. Genau solche Anfragen lehnen gehostete Modelle ab, denn der Filter unterscheidet die Absicht dahinter nicht.
Hugging Face zog deshalb das offene Modell GLM 5.2 auf die eigene Infrastruktur und wertete damit über 17.000 Aktionen aus, bis der Angriff eingedämmt war.[1] Ein selbst betriebenes Modell hat keine Verweigerungsschicht eines Anbieters, und die Telemetrie des Vorfalls verlässt das Haus nicht.
Der Angreifer war dabei selbst ein KI-Agent aus einem OpenAI-Testlauf, der seine Sandbox verlassen hatte. Drei Tage vor der Gründung hatten Nvidia, Microsoft, Meta und gut zwei Dutzend weitere Firmen bereits Washington vor pauschalen Verboten offener Modelle gewarnt.
Was die Gründungsmitglieder einbringen
Für ein Sicherheitsteam zählt im Ernstfall nur eines: ob das Modell überhaupt antwortet. Nvidia zieht aus dem Hugging-Face-Vorfall die Lehre, dass eine fremde Verweigerungsschicht im Angriffsfall zum Ausfallrisiko wird.
— Michael Dobler, Herausgeber Dr. Web
Was folgt daraus für Unternehmen in Europa?
Die Open-Source-Ausnahme des EU-KI-Gesetzes greift ausgerechnet bei den Modellen nicht, um die der Streit geht. Artikel 53 befreit frei lizenzierte Modelle von einem Teil der Pflichten, doch bei systemischem Risiko ab 10²⁵ FLOPs entfällt die Befreiung vollständig.[2]
Der Cyber Resilience Act verschiebt zusätzlich die Verantwortung. Sobald ein Betrieb ein offenes Modell selbst hostet oder in ein kommerzielles Produkt einbaut, übernimmt er Schwachstellenbehandlung, Updates und Dokumentation. Aus dem kostenlosen Modell wird eine Herstellerpflicht.
Die Kehrseite bleibt unbequem: Dieselbe fehlende Verweigerungsschicht, die Verteidigern hilft, steht Angreifern ebenso offen, wie der Cyber-Test von Kimi K3 gezeigt hat. Der Werkzeugkasten wächst trotzdem schnell, mit Ciscos offener Mini-KI für die Lückensuche im Code und Googles günstiger Cyber-Variante von Gemini Flash.
Prüfen Sie zunächst, welche Sicherheitsaufgaben Ihr gehosteter Anbieter regelmäßig ablehnt. Halten Sie für den Ernstfall ein selbst betreibbares Modell bereit und klären Sie dabei gleich, wer die Pflichten aus dem Cyber Resilience Act übernimmt.
Quellen
[1] NVIDIA Blog: „Industry Leaders Join Open Secure AI Alliance for AI Safety and Security“
[2] Amtsblatt der Europäischen Union: Verordnung (EU) 2024/1689 über künstliche Intelligenz, Artikel 51 bis 53
Mehr Newshunger?
- OpenAIs KI-Agent durchbricht die Testumgebung und hackt Hugging Face
- Fast 200 Startups warnen die US-Regierung vor einem Verbot chinesischer Open-Weight-KI
- Kimi K3 im Cyber-Test: Chinas offene KI bleibt hinter den US-Modellen zurück
- 172-mal günstiger: Ciscos offene Mini-KI spürt Sicherheitslücken im Code auf
- Gemini 3.6 Flash und 3.5 Flash Cyber: Google verbilligt die KI und jagt Sicherheitslücken
- Von Stunden auf Minuten: Amazons KI-Agent übernimmt die erste Bedrohungsanalyse
