Die britische Regierung stellt rund 600 Millionen Pfund (etwa 720 Millionen Euro) gegen Gefahren durch künstliche Intelligenz bereit. Am meisten Geld fließt in die Biosicherheit, vor allem in ein Labor, das mit KI Krankheitserreger früher erkennen soll. OpenAI und Anthropic steuern bis zu 239 Millionen Euro bei, allerdings als Gutschriften für die Nutzung ihrer eigenen Modelle.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenSchatzkanzler John Healey hat das Paket am Samstag vorgestellt, vier Tage bevor er am Mittwoch den Haushalt vorlegt. Offiziell beschrieben ist bisher nur das neue AI Biosecurity Lab,[1] die übrigen Beträge nennen Reuters und die Agentur PA. Einzelheiten sollen mit dem Haushalt folgen (Stand: Samstag, 24. Oktober, 2:30 Uhr).
Das Wichtigste in Kürze
- Das AI Biosecurity Lab bekommt 100 Millionen Pfund (119 Millionen Euro) vom Staat und bis zu 200 Millionen Pfund als Gutschriften von OpenAI und Anthropic.[1]
- Das staatliche AI Security Institute erhält laut Reuters weitere 120 Millionen Pfund (143 Millionen Euro).
- 130 Millionen Pfund (155 Millionen Euro) gehen in die Cyberabwehr kritischer Infrastruktur.
- Standort, Leitung und Zeitplan des Labors sind noch nicht bekannt.
Was soll das AI Biosecurity Lab leisten?
Die Regierung nennt es die erste Einrichtung weltweit, die sich ausschließlich KI und Biosicherheit widmet. Anfangs soll es neue biologische Bedrohungen früher erkennen und die Entwicklung von Impfstoffen, Medikamenten und anderen Gegenmitteln beschleunigen. Es soll als unabhängige, gemeinnützige Organisation arbeiten, ähnlich wie das AI Security Institute. Mit der Arzneimittelbehörde MHRA soll es außerdem die Regeln für Arzneimittel mitgestalten, die mit KI entwickelt wurden.
Weitere 65 Millionen Pfund sind laut Reuters für Gegenmittel gegen Krankheitserreger vorgesehen.
Warum zahlen OpenAI und Anthropic nicht in bar?
OpenAI gibt 100 Millionen Pfund in Rechenzeit und Gutschriften für die Modellnutzung sowie Zugang zu seinen leistungsfähigsten Modellen über das Programm Rosalind Biodefense. Anthropic sagt bis zu 100 Millionen Pfund in Gutschriften, Modellzugang und technischer Unterstützung zu. Bargeld fließt nicht. Das Labor arbeitet also mit Modellen, die laut der Regierung zugleich neue biologische Risiken schaffen und Missbrauch erleichtern könnten.
Das Muster kennt London: Am 13. Oktober sagte Nvidia britischen Forschern Rechenzeit im Wert von 218 Millionen Euro zu, ebenfalls ohne Bargeld. Für die Regierung zählt dabei vor allem der Zugang zu den Modellen. Ende September berichtete Politico, das Weiße Haus wolle neue Modelle von OpenAI und Anthropic zuerst selbst prüfen, die britischen KI-Prüfer sollen warten. Dem Labor sagen OpenAI und Anthropic diesen Zugang nun ausdrücklich zu, Google DeepMind stellt ihn für Gemini in Aussicht.
Wofür ist der Rest des Pakets gedacht?
Laut City AM und PA gehen 60 Millionen Pfund an einen National Cyber Shield, der mit KI-Agenten Angriffe abwehren soll, und 70 Millionen Pfund an ein Zentrum, das Schwachstellen in kritischer Infrastruktur aufspürt. Wie knapp die Zeit dafür ist, zeigte PHP2Shell: Am 21. Oktober nahmen Behörden und Hochschulen ihre Websites vorsorglich vom Netz, Hoster meldeten Angriffe auf zwei Lücken im PHP-Interpreter schon vor dem Update.
London lässt die KI-Firmen die Abwehr gegen ihre eigenen Risiken mitbezahlen, aber in der eigenen Währung.
Markus Seyfferth, Chefredakteur Dr. Web
Was bedeutet das für Unternehmen in der EU?
Die EU setzt bei denselben Risiken auf Pflichten statt auf Partnerschaften. Artikel 55 der KI-Verordnung verpflichtet Anbieter großer KI-Modelle mit systemischem Risiko zu Modellbewertungen samt Angriffstests und dazu, schwerwiegende Vorfälle dem Büro für Künstliche Intelligenz zu melden.[2] Seit dem 2. August 2026 drohen dafür Bußgelder.
Zwei Aufgaben für Unternehmen im deutschsprachigen Raum:
- Pharma- und Biotechfirmen mit Geschäft in Großbritannien sollten verfolgen, welche Regeln die MHRA mit dem Labor für mit KI entwickelte Arzneimittel erarbeitet.
- Betreiber von Websites und Intranets sollten die PHP-Version auf ihren Servern prüfen, denn Angreifer nutzen Lücken inzwischen oft schon vor dem Update aus.
Quellen
2 Quellen anzeigenQuellen ausblenden
- Britische Regierung, Cabinet OfficeIntroducing the AI Biosecurity Lab
- EUR-LexVerordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung), Artikel 55
Mehr Newshunger?
- OpenAI und Polens NASK wollen KI-Modelle gemeinsam auf Schwachstellen prüfen
- Nvidia stellt britischen KI-Forschern Rechenzeit im Wert von 218 Millionen Euro bereit
- Britische KI-Prüfer müssen warten: Das Weiße Haus beansprucht den Erstzugriff auf OpenAI- und Anthropic-Modelle
- Kimi-Jailbreak: Moonshots KI lieferte Sicherheitsforschern Anleitungen für Biowaffen
- KI-Chefs fordern Gesetz gegen Biowaffen
- Wie sicher ist PHP nach PHP2Shell noch?
