Chinas führender Sicherheitskonzern Qihoo 360 widerspricht dem Ruf nach einem globalen KI-Tempolimit. Ein Limit verschaffe der Aufsicht nur Zeit und behebe kein Risiko, sagt Gründer Zhou Hongyi. Nötig seien unabhängige Angriffstests, weil neue Schwachstellen binnen 24 bis 72 Stunden zu einsatzfähigem Angriffscode werden.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

Die Debatte um KI-Sicherheit dreht sich seit Wochen um eine einzige Frage: Wie stark lässt sich das Tempo an der Spitze drosseln? Anbieter wie Anthropic werben offen für eine Bremse. Beim chinesischen Konzern Qihoo 360 gilt genau das als falsche Stellschraube.

Das Wichtigste in Kürze

  • Qihoo-360-Gründer Zhou Hongyi nennt ein globales KI-Tempolimit nur einen Zeitgewinn, keine Lösung.
  • Die reine Selbstprüfung der Anbieter halte 360 für blind; nötig sei eine unabhängige dritte Instanz.
  • Neue Lücken werden laut 360 binnen 24 bis 72 Stunden zu einsatzfähigem Angriffscode, Patches dauern oft Wochen.
  • Der EU AI Act verlangt für Modelle mit systemischem Risiko bereits Angriffstests, überlässt die Durchführung aber den Firmen.

Warum reicht die Selbstprüfung nicht?

Schloss mit Prüfsiegeln, Lupe und einer winzigen Bauleiterfigur vor hellem Hintergrund
Chinas Qihoo 360 lehnt globale KI-Tempolimits ab und argumentiert, dass Drosselungen der Entwicklung nur Zeit kaufen, ohne Sicherheitslücken zu schließen

Auf Chinas Cyber-Sicherheitswoche im September stellte sich Qihoo 360 gegen den Konsens vieler Anbieter, die KI-Entwicklung global zu drosseln. Ein Tempolimit kaufe der Sicherheitsaufsicht nur Zeit und schließe die eigentliche Lücke nicht, so der Konzern.[1] Das Argument spiegelt den westlichen Streit um das richtige Frontier-Tempo, in dem Anthropic sogar eine kartellrechtliche Ausnahme für gemeinsame Sicherheitsbremsen verlangt.

Bislang prüfen die Anbieter ihre Modelle in Eigenregie und bescheinigen sich das Ergebnis selbst. Genau diese Schleife hält 360 für blind und verlangt eine unabhängige Instanz, die die Systeme gezielt angreift, bevor Kriminelle zuschlagen. Technisch setzt der Konzern auf ein Prinzip, das er „Modelle kontrollieren Modelle“ nennt: Eine KI prüft und begrenzt die andere.

Wie schnell wird aus einer Lücke eine Waffe?

Die Begründung liefert die eigene Sicherheitsforschung von 360. In einem Bericht vom Mai beschreibt das Institut eine „KI-Sicherheitszeitlücke“: Offengelegte Schwachstellen werden binnen 24 bis 72 Stunden zu lauffähigem Angriffscode, während viele Organisationen ihre Patches erst in Wochen oder Monaten ausrollen.[2] Früher gelang das nur Spitzenexperten oder staatlichen Angreifergruppen; heute erledigen KI-Agenten die Analyse automatisiert und in Serie.

Dieselbe Beschleunigung zeigt der Bedrohungsbericht von Anthropic, dessen KI-Agenten Schadsoftware so lange umbauen, bis kein Scanner mehr anschlägt. 360 kontert mit denselben Mitteln: Ein eigener Agent zum Aufspüren von Schwachstellen hat nach Konzernangaben schon fast tausend Lücken in Betriebssystem-, Büro- und IoT-Software gefunden.

Eine Geschwindigkeitsbegrenzung beruhigt das Gewissen, prüft aber keine einzige Zeile Code. Sicherheit entsteht erst, wenn ein unabhängiger Angreifer die Lücke findet, bevor ein Krimineller sie ausnutzt.

— Markus Seyfferth, Chefredakteur Dr. Web
KI-Sicherheit: Warum ein Tempolimit zu wenig ist
Das Argument von Qihoo 360 in Zahlen
24–72 Std.
bis eine offengelegte Schwachstelle zu lauffähigem Angriffscode wird
Wochen
bis Monate dauern viele Patch-Prozesse in Organisationen
~1.000
Schwachstellen fand allein der KI-Agent von 360 in Betriebssystem-, Büro- und IoT-Software

Zwei Wege, dieselbe Zeitlücke zu schließen

Heute
Anbieter testen und bescheinigen ihre KI selbst. 360 hält diese Selbstprüfung für blind.
360s Rezept
Unabhängige Angriffstests von außen, dazu Modelle, die Modelle prüfen und begrenzen.

Was heißt das für Europa?

Für europäische Entscheider trifft der Streit einen wunden Punkt. Der EU AI Act verpflichtet Anbieter großer Modelle mit systemischem Risiko schon heute zu Angriffstests und einer Meldepflicht, überlässt die Durchführung aber weitgehend den Firmen selbst, also genau der Selbstprüfung, die 360 bemängelt.

Dass ausgerechnet Chinas Sicherheitsbranche nach externer Kontrolle ruft, deckt sich mit westlichen Vorstößen wie der KI-Sicherheitsallianz von Nvidia, Microsoft und Siemens und mit der Warnung von Forschern wie Yoshua Bengio, dass KI-Agenten längst täuschen und tricksen.

Unternehmen mit KI-Support oder eigenen Agenten sollten externe Red-Teams fest einplanen und ihre Reaktionszeit auf Stunden statt Wochen auslegen. Die Grundlagen der Abwehr bündelt der Ratgeber Cybersecurity-Grundlagen.

Quellen

[1] 21世纪经济报道: „360: KI-Sicherheit darf sich nicht auf die Selbstprüfung der Anbieter verlassen, nötig ist eine Drittkontrolle“

[2] 360 KI-Sicherheitsforschung / 澎湃新闻: „AI schafft ein neues Sicherheitsgefälle: die KI-Sicherheitszeitlücke“

Mehr Newshunger?

4,1 18 Bewertungen

Wie hat Ihnen dieser Artikel gefallen?