Human in the Loop nennt sich das Prinzip, das die Kontrolle über künstliche Intelligenz beim Menschen halten soll. Beim Programmieren mit Sprachmodellen kippt genau diese Rolle: Die Entwicklerin Laura Summers beschreibt für den Werkzeugbauer Pydantic, wie das Schreiben von Code der zermürbenden Aufsicht über die Maschine gewichen ist.[1]
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
Produktiv und zermürbend zugleich, so fällt die Bilanz vieler Teams aus, die täglich mit KI-Coding-Assistenten arbeiten. Der Gewinn an Tempo hat einen Preis, den kaum eine Kalkulation berücksichtigt.
Das Wichtigste in Kürze
- Sprachmodelle erzeugen plausiblen, aber oft widersprüchlichen Code; das Gegenprüfen kostet mehr Konzentration als das eigene Schreiben.
- Eine Studie der Berkeley Haas School mit 200 Beschäftigten zeigt: KI verdichtet die Arbeit, statt Zeit freizuräumen.
- Der EU AI Act benennt die Gefahr beim Namen, den Automation Bias, also das blinde Vertrauen in die Ausgabe der Maschine.
Warum ermüdet die Aufsicht mehr als das Programmieren?
Fehler der Kohärenz. Nicht am Können scheitern die Modelle, sondern an der Stimmigkeit: Der erzeugte Code sieht überzeugend aus und passt im Ganzen doch nicht zusammen. Zwei Tage Arbeit an einem Plan, dann die Prüfung jeder einzelnen Zeile, und die Befriedigung, die früher aus dem eigenen Lösen kam, bleibt auf der Strecke.
Plausibel statt richtig. Dasselbe Muster kennt die Recherche mit Sprachmodellen: Modelle erfinden Quellen, die nie existierten, und nur das konsequente Gegenprüfen der KI-Antworten fängt den Fehler ein. Auch der zunehmend gleichförmige Look vieler Software entsteht so, weil die Maschine das Naheliegende reproduziert und die Prüfung am Menschen hängen bleibt.
Macht KI die Arbeit wirklich leichter?
Verdichtete Arbeit. Eine ethnografische Studie der Berkeley Haas School begleitete von April bis Dezember 2025 rund 200 Beschäftigte eines US-Technologiekonzerns. Das Ergebnis widerspricht dem Entlastungsversprechen: Die Beschäftigten arbeiteten schneller, übernahmen mehr Aufgaben und dehnten den Arbeitstag aus, ganz ohne Anweisung von oben.[2]
Der Reiz des Machbaren. Produktmanager begannen selbst zu programmieren, weil das Modell diesen Schritt möglich machte. KI räumte keine Zeit frei. Das Werkzeug weitete aus, was sich Einzelne zutrauten, bis die zusätzliche Last in die Freizeit reichte. Angebote wie DeepSeeks Coding-Agent oder Zhipus GLM Coding Plan senken die Hürde weiter und verschieben die Arbeit vom Tippen zum Kontrollieren.
Der Engpass liegt nicht mehr im Code, sondern in der menschlichen Aufmerksamkeit. Teams, die nur die Zeitersparnis feiern und die Prüfzeit vergessen, verlagern die Belastung, statt sie zu senken.
— Michael Dobler, Herausgeber Dr. Web
Was menschlich bleibt
Geschmack, Architektururteil und die Entscheidung, wann die Ausgabe der Maschine gestoppt wird. Der Engpass verschiebt sich vom Erzeugen des Codes zur Aufmerksamkeit des Menschen.
Was bedeutet das für Teams im DACH-Raum?
Automation Bias. Der EU AI Act benennt in Artikel 14 genau dieses Risiko, die Neigung, sich blind auf die Ausgabe eines Systems zu verlassen. Für Hochrisiko-Anwendungen wird die menschliche Aufsicht damit zur Rechtspflicht, seit der Verschiebung durch den Digital Omnibus wirksam ab dem 2. Dezember 2027.[3]
Prüfzeit einplanen. Behandeln Sie die Kontrolle der KI-Ausgabe als eigene Arbeitszeit, nicht als Rest, der nebenbei abfällt. Das Fachwissen des Teams gehört in klare Vorgaben für den Assistenten, und ein bewusster Wechsel zwischen manueller und KI-gestützter Arbeit hält die Aufsicht erträglich.
Quellen
[1] Pydantic, Laura Summers: „The Human-in-the-Loop is Tired“
[2] University of California, Berkeley (Haas School of Business): „Does AI Actually Free Up Workers‘ Time?“
[3] EU Artificial Intelligence Act: Artikel 14, „Human Oversight“
Mehr Newshunger?
- State of Devs 2026: Die Entwickler-Umfrage jenseits des Codes läuft
- DeepSeek-V4-Flash: Chinas Coding-Agent tritt gegen Codex an
- GLM Coding Plan: Zhipu unterbietet Claude Code für 15 Euro im Monat
- Okta kauft Permiso: Auf einen Menschen kommen 109 Maschinenkonten
- Anthropic meldet drei echte Einbrüche: Claudes Testumgebung hatte offenes Internet
