Ein 60-Sekunden-Spiel stellt eine simple Frage: Wie genau lesen Sie eigentlich die Befehle, die Ihr KI-Coding-Agent ausführen will? Anthropics eigene Telemetrie liefert dazu eine ernüchternde Vorab-Antwort.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Permission Fatigue beschreibt den Reflex, mit dem Entwickler die Genehmigungsdialoge ihres KI-Agenten wegklicken, ohne sie zu lesen. Das Browser-Spiel „Continue? Y/N“ macht aus diesem Reflex einen messbaren Selbsttest und mischt harmlose Kommandos mit handfest zerstörerischen.
Das Wichtigste in Kürze
- „Continue? Y/N“ prüft in unter einer Minute, wie sorgfältig Sie KI-Befehle vor der Freigabe lesen.
- Anthropic registrierte in eigener Telemetrie eine Zustimmungsrate von rund 93 Prozent bei Permission-Prompts.
- Je mehr Abfragen erscheinen, desto weniger Aufmerksamkeit bekommt laut Anthropic die einzelne.
- Sandbox und klassifikatorgestützte Freigabe gelten als Gegenmittel, sobald die menschliche Kontrolle ermüdet.
Was macht „Continue? Y/N“ mit Ihnen?
Im Spiel sitzen Sie auf dem Stuhl der menschlichen Kontrollinstanz. Ein Terminal im Stil von Claude Code feuert Befehl um Befehl, und Sie entscheiden unter Zeitdruck mit Y oder N. Zwischen lauter Routine taucht dann ein Kommando wie rm -rf ~/ auf, das im Ernstfall das komplette Heimatverzeichnis löscht. Bestätigen Sie blind, rutscht der Angriff durch; lehnen Sie pauschal alles ab, kassieren Sie eine Overblock-Warnung. Am Ende steht Ihre persönliche Fatigue-Bewertung. Den Selbsttest bietet das Studio Scale X kostenlos unter llmgame.scalex.dev an.
Warum trifft das Spiel einen wunden Punkt?
Anthropic hat in der eigenen Auswertung festgehalten, dass Nutzer rund 93 Prozent aller Berechtigungsabfragen genehmigen. Je häufiger der Dialog erscheint, desto flüchtiger fällt die Prüfung aus, bis die Aufsicht zur reinen Formsache verkommt. Genau dort wird die Lage brenzlig, denn ein Agent kann über manipulierte Repositories oder angebundene MCP-Server bösartige Anweisungen einschleusen. Dass KI-Agenten Schwachstellen inzwischen selbst finden und ausnutzen, belegte eine von Anthropic begleitete Studie, und der Bericht zu Claude Mythos zeigt das Tempo dieser Entwicklung. Welche Stärken und Grenzen die Modelle dabei haben, ordnet unser LLM-Ratgeber ein.
Das eigentliche Sicherheitsleck sitzt nicht im Modell, sondern in der Hand, die nach dem zwanzigsten Dialog nur noch auf Enter tippt. Ein Spiel, das diese Müdigkeit messbar macht, taugt mehr als jede weitere Warn-E-Mail an die Belegschaft.
— Michael Dobler, Herausgeber Dr. Web
Was heißt das für Ihre Agenten-Strategie?
Für Teams mit produktivem KI-Einsatz folgt daraus eine klare Konsequenz: Die menschliche Freigabe allein trägt nicht als Schutzwall. Eine Sandbox im isolierten Container hält den Agenten vom Host-System fern. Ergänzend blockieren harte Deny-Regeln Befehle wie rm -rf selbst dann, wenn der Genehmigungsmodus großzügig eingestellt ist. Anthropic rüstet seine Werkzeuge in diese Richtung nach, wie die Sicherheits-Hooks auf der Code-w-Claude-Konferenz 2026 zeigten. Die laufenden Kosten solcher Agenten geraten dabei leicht aus dem Blick, wie die Token-Krise im Mittelstand belegt. Der Selbsttest kostet eine Minute. Ein gelöschtes Produktiv-Backup richtet ungleich größeren Schaden an.
Mehr #Anthropic News
Mehr Newshunger?
