Google-DeepMind-Mitgründer Demis Hassabis hält die jüngsten Angriffe durch KI-Agenten für frühe Warnschüsse. Schwere Vorfälle erwartet der Alphabet-Chefwissenschaftler binnen ein bis zwei Jahren, falls Branche und Regierungen ihre Systeme nicht besser absichern. Als Gegenmittel verlangt Hassabis ein internationales Gremium, das KI nach Risiko zertifiziert.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Rund 1.500 Gäste erwartete die irische Regierung am Mittwoch zum KI-Gipfel ihrer EU-Ratspräsidentschaft im Messegelände RDS in Dublin. Dort sagte Hassabis laut Reuters: „Ich denke, diese Hacking-Vorfälle sind frühe Warnschüsse für uns. Die Systeme sind noch nicht so leistungsfähig, deshalb sind die Vorfälle noch nicht so gravierend.“[1]
Das Wichtigste in Kürze
- Ohne besseren Schutz rechnet Hassabis binnen ein bis zwei Jahren mit schweren KI-Vorfällen.
- Der DeepMind-Vorsitzende will ein internationales Normengremium, das KI-Systeme je nach Risiko zertifiziert und seine Regeln schnell anpasst.
- Microsoft-Präsident Brad Smith forderte auf demselben Gipfel neue Gesetze, EU-Kommissar Michael McGrath verwies auf die KI-Verordnung.
- Anbieter großer KI-Modelle müssen in der EU schwere Vorfälle bereits melden, seit August 2026 drohen bei Verstößen Bußgelder.
Was hat Hassabis in Dublin gesagt?
Die Entwarnung gilt nur für den Moment. „Mit Blick auf das nächste Jahr und die nächsten paar Jahre könnten sie gravierend werden, falls wir als Branche, als einzelne Unternehmen und als Regierungen nicht mehr für die Absicherung dieser Systeme tun“, sagte Hassabis.[1]
Reuters verweist auf Angriffe von KI-Agenten auf Firmennetze wie den Hugging-Face-Hack im Juli, bei dem OpenAI-Agenten aus ihrer Testumgebung ausbrachen. Im Oktober legte Anthropic offen, dass ein Claude-Modell der Polizei in Philadelphia einen erfundenen Hinweis zu einem Mordfall geschickt hatte. Bis die KI-Branche ihre Systeme so sorgfältig absichert wie die Biologie oder die Kerntechnik, bleibe noch „viel Arbeit“, sagte Hassabis. Ein Normengremium müsse deshalb kommen, aber flexibel: „Man muss im Grunde dynamisch eine Art Zertifizierungsverfahren aufbauen, das den Risiken angemessen ist, wie wir sie sehen, und sich schnell ändern lässt, je nachdem, wohin sich die Technik entwickelt.“
Warum will Hassabis ein Normengremium?
Ein Zertifizierungsverfahren lässt sich schneller nachbessern als ein Gesetz. Ein internationales Gremium würde zudem alle Labore gleich behandeln, auch die Konkurrenz in den USA und in China. Außerdem entstehen Normen in Fachgremien, in denen die Industrie selbst am Tisch sitzt. Hassabis ist seit August Vorsitzender des Labors, das Tagesgeschäft führt Koray Kavukcuoglu.
Brad Smith hielt in Dublin dagegen. Der Microsoft-Präsident nannte 2026 ein „ernüchterndes Jahr“ und verlangte neue Sicherheitsgesetze: „Diese Allergie, die manche in der Branche gegen Regulierung haben, müssen wir offen gesagt überwinden.“[1] Seit dem 10. Oktober liegen damit fünf Rezepte aus der Führungsriege der Tech-Branche auf dem Tisch. Microsoft-Chef Satya Nadella will eine Notbremse für KI-Modelle, Bill Gates erwartet staatliche Aufsichtsstellen binnen eines Jahres, Mark Zuckerberg lehnt eine abgestimmte Verlangsamung ab.
Die Systeme sind laut Hassabis noch zu schwach für große Schäden.
In diesem Zeitraum drohen schwere Vorfälle, falls Branche und Staaten nicht nachlegen.
Ein internationales Normengremium soll seine Regeln schnell anpassen können.
Der Microsoft-Präsident verlangt neue Sicherheitsgesetze für KI.
Die EU sieht sich vorn, kann KI aber nicht allein regulieren.
des weltweiten Jahresumsatzes oder 15 Millionen Euro drohen Anbietern großer Modelle seit August 2026 bei Verstößen.
Ein Zertifikat, das sich nach der Technik richtet, schützt nur, solange unabhängige Prüfer die Regeln schreiben.
Markus Seyfferth, Chefredakteur Dr. Web
Was bedeutet das für Unternehmen in der EU?
Einen Teil von Hassabis‘ Forderung erfüllt die KI-Verordnung bereits. Anbieter großer KI-Modelle mit systemischem Risiko müssen ihre Modelle seit August 2025 testen, schwere Vorfälle an das KI-Büro der EU-Kommission melden und gegen Cyberangriffe schützen.[2] Seit August 2026 kann die Kommission Verstöße mit bis zu 3 % des weltweiten Jahresumsatzes oder 15 Millionen Euro ahnden. Die technischen Normen dazu erarbeiten die europäischen Normungsorganisationen.
Die KI-Verordnung allein reicht nach Ansicht von EU-Kommissar Michael McGrath nicht, denn künstliche Intelligenz „respektiert keine Grenzen“.[1] Für Ihr Unternehmen heißt das:
- Geben Sie KI-Agenten nur die Rechte und den Netzzugang, den die jeweilige Aufgabe verlangt.
- Lassen Sie sich von Ihrem Modellanbieter schriftlich bestätigen, wie er Vorfälle erkennt und an das KI-Büro meldet.
Quellen
2 Quellen anzeigenQuellen ausblenden
Mehr Newshunger?
- Nadella: Die Notbremse für KI-Modelle gehört in die Hand der Betreiber
- Zuckerberg lehnt die KI-Bremse ab: Wenige Modelle in wenigen Händen seien riskanter
- Bill Gates rechnet mit vielen KI-Cyberangriffen im nächsten Jahr
- Yann LeCun sieht bei KI-Cyberangriffen die Verteidiger im Vorteil
- Wie verdient Google mit DeepMind sein Geld?
- Wer sind die 15 reichsten Tech-Milliardäre?
- Alle Meldungen über die Tech-Titanen
