Ein kleines Browser-Spiel führt Entwicklern in 60 Sekunden vor, wie reflexhaft sie KI-Agenten Befehle durchwinken. Hinter dem Scherz steckt ein ernstes Sicherheitsproblem, das mit jedem zusätzlichen Coding-Agenten wächst.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügenDas Phänomen Permission Fatigue beschreibt die Ermüdung, die entsteht, wenn ein Werkzeug wie Claude Code ständig um Erlaubnis fragt, bevor es einen Befehl ausführt. Das Spiel „Continue? Y/N“ stellt genau diese Routine auf die Probe und mischt unter harmlose Kommandos einen gefährlichen.
Das Wichtigste in Kürze
- „Continue? Y/N“ ist ein 60-Sekunden-Spiel über die Frage, ob Nutzer die Befehle ihrer KI-Agenten tatsächlich lesen.
- Das Spiel simuliert die Freigabe-Dialoge von Claude Code und schmuggelt einen riskanten Befehl in die Reihe der harmlosen.
- Die Schwachstelle ist menschlich: Wiederholte Bestätigungen senken die Aufmerksamkeit, bis der Klick zur Gewohnheit wird.
- Das Thema sitzt zwischen KI und Cybersecurity und betrifft jedes Team, das agentische Werkzeuge im Code einsetzt.
Was testet „Continue? Y/N“ wirklich?
Das Spiel ahmt die Bestätigungsabfragen nach, die agentische Coding-Werkzeuge vor heiklen Aktionen einblenden. Spieler bekommen nacheinander Kommandos vorgesetzt und entscheiden per „Y“ oder „N“, ob der Agent fortfahren darf. Wer zu schnell durchklickt, übersieht den einen Befehl, der echten Schaden anrichten würde. Der Aufbau ist bewusst meta, denn die KI im Spiel ist genau das Werkzeug, dem viele Entwickler im Alltag bedenkenlos vertrauen.
Der Reiz liegt in der Selbsterkenntnis. Nach wenigen Runden merkt man, wie stark das eigene Verhalten von der Erwartung gesteuert wird, dass schon nichts Schlimmes dabei sein werde. Diese Erwartung ist der Angriffspunkt.
Warum ist gedankenloses Bestätigen ein Sicherheitsrisiko?
Agentische Werkzeuge fragen aus gutem Grund nach, bevor sie Dateien löschen, Pakete installieren oder Systembefehle absetzen. Diese Schutzfunktion verliert ihren Wert, sobald die Bestätigung zum Automatismus wird. Bei einem einzelnen Agenten mag das verschmerzbar sein. Sobald mehrere Agenten parallel laufen und im Minutentakt um Freigaben bitten, sinkt die Aufmerksamkeit pro Abfrage messbar, und ein schädlicher Befehl rutscht leichter durch.
Jede Abfrage, die wir blind bestätigen, ist eine Schutzmauer, die wir selbst einreißen. Sicherheit scheitert selten an der Technik, sondern an der Gewohnheit.
— Michael Dobler, Herausgeber Dr. Web
Wie schnell aus einem unbeaufsichtigten Agenten ein echtes Problem wird, haben wir am Fall eines KI-Agenten mit eigener Handlungsvollmacht beschrieben. Wer agentische Werkzeuge einsetzt, sollte die Governance-Frage früh klären, ähnlich wie es unser LLMs-Ratgeber für den Einsatz von Sprachmodellen im Unternehmen empfiehlt.
Was sollten Teams jetzt konkret tun?
Prüfen Sie, an welchen Stellen Ihre Pipeline blinde Bestätigungen erlaubt. Sinnvoll ist, riskante Aktionen wie das Löschen von Daten oder das Ausführen von Shell-Befehlen technisch von harmlosen zu trennen, sodass die wirklich gefährlichen Schritte eine bewusste, gesonderte Freigabe verlangen. Spielen Sie „Continue? Y/N“ einmal im Team, denn die 60 Sekunden zeigen schonungslos, wie weit die eigene Aufmerksamkeit bereits abgestumpft ist.
Mehr Newshunger?
