Sprachmodelle spüren Schwachstellen im deutschen Recht auf, drei Verordnungen könnten teilweise nichtig sein

Zwei Autoren haben deutsche Verordnungen mit Sprachmodellen durchsucht und nach eigenen Angaben eine erhebliche Zahl bislang unbekannter Schwachstellen gefunden. In den veröffentlichten Fällen fehlt in der Eingangsformel die gesetzliche Ermächtigung, auf die sich eine Regel stützt. Einer betrifft vertrauliche Unterlagen zu Berufskrankheiten, ein anderer den Freizeitausgleich für Soldaten in einem Nato-Kommando.

Felix Ringe vom Zentrum für empirische Rechtsforschung (Empirical Legal Studies Center) der Freien Universität Berlin und ein ungenannter Mitautor haben ihre Funde am 28. Oktober in einem Blogbeitrag veröffentlicht.^[1] Ihr Vergleich stammt aus der IT-Sicherheit: Gesetze sind in Sprache geschrieben wie Programme in Code und enthalten Fehler, die sich ausnutzen lassen. Gezeigt haben die beiden nach eigener Aussage nur Fälle, deren Ausnutzung keinen ernsthaften Schaden anrichte.

Wie kann ein fehlender Absatz eine Regel kippen?

Artikel 80 des Grundgesetzes verlangt, dass jede Rechtsverordnung ihre Rechtsgrundlage angibt. Juristen nennen das Zitiergebot. Wie streng das Bundesverfassungsgericht diese Pflicht nimmt, zeigte 1999 die Hennenhaltungsverordnung: Weil sie nicht alle Ermächtigungen nannte, erklärte das Gericht sie für nichtig.^[2]

Im Juli 2026 ergänzte die Bundesregierung die Berufskrankheiten-Verordnung. Seither sind die Beratungsunterlagen des Ärztlichen Sachverständigenbeirats vertraulich, auch nach Abschluss der Beratungen. Die Änderungsverordnung beruft sich aber nur auf § 9 Absatz 1 des Siebten Sozialgesetzbuchs.^[3] Die Befugnis, Stellung und Organisation des Beirats zu regeln, steht in Absatz 1a.^[4] Im Beispiel der Autoren verlangt eine Journalistin nach dem Informationsfreiheitsgesetz die Stellungnahme eines Arbeitgeberverbands, die das Arbeitsministerium unter Verweis auf die Vertraulichkeit zurückhält.

Warum könnten Soldaten im Nato-Stab Überstunden abfeiern?

Laut Soldatengesetz steht Soldaten für angeordnete Mehrarbeit von mehr als fünf Stunden im Monat entsprechende Dienstbefreiung zu. Davon ausnehmen darf das Verteidigungsministerium nur Soldaten in multinationalen Stellen, Grundlage ist § 30c Absatz 6.^[5] Im März 2025 kam das Nato-Unterstützungskommando JSEC (Joint Support and Enabling Command) in Ulm auf diese Liste. Die Eingangsformel der Änderungsverordnung nennt § 30c Absatz 5 und § 30d, Absatz 6 fehlt.^[6] Ein Hauptmann im JSEC-Stab könnte damit nach Lesart der Autoren Ausgleich für zehn Überstunden verlangen.

Neu ist die Sorge nicht. Greg Sadler und Nathan Sherburn beschrieben 2025 „Legal Zero-Days“, unentdeckte Fehler im Recht, die KI-Systeme schneller finden, als Gerichte reagieren können. Die damals getesteten Modelle fanden solche Fehler laut der Studie noch nicht zuverlässig.^[7] In der Softwarebranche ist der Wandel längst messbar: Beim WordPress-Sicherheitsteam gingen dieses Jahr über 3.000 Meldungen ein, mehr als in den zwölf Jahren zuvor. Den Anstieg führt das Team auf KI-Werkzeuge zurück.

Wo die Eingangsformel nicht zur Regel passt

Zwei der Fälle, die Felix Ringe und ein Mitautor mit Sprachmodellen gefunden haben, abgeglichen mit dem Bundesgesetzblatt.

1999

erklärte das Bundesverfassungsgericht die Hennenhaltungsverordnung wegen des Zitiergebots für nichtig

3 Fälle

stellen die Autoren vor, gefunden haben sie nach eigenen Angaben deutlich mehr

5 Stunden

Mehrarbeit im Monat, ab denen Soldaten laut Soldatengesetz Dienstbefreiung zusteht

Zitiert und benötigt

Neue RegelEingangsformel nenntErmächtigung steht in

Berufskrankheiten-Verordnung, Juli 2026: Beratungsunterlagen des Sachverständigenbeirats bleiben vertraulich§ 9 Abs. 1 SGB VII§ 9 Abs. 1a SGB VII

Soldatenarbeitszeitverordnung, März 2025: Nato-Unterstützungskommando JSEC ohne Anspruch auf Dienstbefreiung§ 30c Abs. 5 und § 30d Soldatengesetz§ 30c Abs. 6 Soldatengesetz

Quellen: Felix Ringe, „Legal exploits may emerge at scale“, 28. Oktober 2026; BGBl. 2026 I Nr. 210; BGBl. 2025 I Nr. 78; SGB VII und Soldatengesetz auf gesetze-im-internet.de; BVerfG, 2 BvF 3/90. Ob die Regeln nichtig sind, hat kein Gericht entschieden. © 2026 Dr. Web | Das Fachportal für Entscheider | Infografik von Dr. Web

Was folgt daraus für Unternehmen?

Ob eine Regel tatsächlich nichtig ist, klärt im Streit ein Gericht. Bis dahin wenden Behörden sie an. Für Firmen lohnt der Blick trotzdem:

• Stützt eine Behörde eine Auflage oder Gebühr auf eine Verordnung, prüfen Sie deren Eingangsformel. KI-Werkzeuge wie Claude for Legal von Anthropic beschleunigen die Suche, das Urteil bleibt bei Ihrer Rechtsabteilung.
• Prüfen Sie jeden KI-Befund nach. In einem Test mit 50 Steuerfällen erreichte der beste KI-Agent eine Erfolgsquote von 10,8 Prozent.

Die Autoren raten dem Gesetzgeber, Entwürfe selbst mit KI auf solche Fehler zu prüfen.

Quellen

Mehr Newshunger?

• Claude for Legal: Anthropic liefert fertige Werkzeuge zum Prüfen von Verträgen und Fundstellen
• Surge AI testet KI-Agenten an 50 Steuerfällen, die beste Erfolgsquote liegt bei 10,8 Prozent
• WordPress-Sicherheitsteam: Über 3.000 Meldungen in diesem Jahr, mehr als in zwölf Jahren zuvor
• Altman glaubt nicht mehr, dass sich alle Sicherheitslücken schließen lassen
• Baidus KI erfand ein Strafurteil, jetzt haftet der Konzern dafür
• Für 22 Euro gefunden: Wie eine KI die kritische WordPress-Lücke aufgespürt hat
• Bürokratieabbau: 98 Prozent der Firmen sehen laut Forsa keine Entlastung