KI-Agenten sind bequem, aber teuer. Jeder Koordinationsschritt läuft über das Sprachmodell und kostet Token. Ein Praxistest zeigt: Derselbe Ablauf kommt mit rund einem Achtel der Token aus, sobald die Steuerung aus dem Modell herauswandert.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

Um die Token-Kosten zu senken, wechseln die meisten Teams das Modell. Der Softwareunternehmer Adam Jacob zeigt einen wirksameren Hebel. Sein Umbau eines Coding-Agenten senkte den Verbrauch von 4,5 Millionen auf rund 500.000 Token, bei gleicher Funktion.[1]

Das Wichtigste in Kürze

  • Autonome Agenten halten das Sprachmodell dauerhaft im heißen Pfad; jeder Prüf- und Koordinationsschritt kostet erneut Token.
  • In einem Praxistest sank der Token-Verbrauch eines Coding-Agenten um das Achtfache, die Laufzeit halbierte sich.
  • Der Hebel ist die Architektur: feste Koordinationslogik als Code, das Modell nur noch für die eigentliche Denkarbeit.
  • Für Unternehmen ist der Umbau ein Kostenhebel, der ohne schwächeres Modell auskommt.

Warum autonome Agenten Token verbrennen

Hale Taxameter mit Belegschleife in Unendlichkeitsform auf Weiß
Agent delegiert Aufgaben an Unter-Agenten, deren Ergebnisse das Sprachmodell bewertet. Jede Bewertung ist ein neuer Modellaufruf in zirkulären Schleifen

Ein klassischer Agent delegiert seine Aufgabe an mehrere Unter-Agenten und lässt die Ergebnisse anschließend vom Sprachmodell bewerten. Jede Bewertung ist ein neuer Modellaufruf, und das Modell beurteilt dabei die Ausgabe eines anderen, ebenfalls nicht-deterministischen Schritts. So entstehen zirkuläre Schleifen, in denen das Modell im heißen Pfad sitzt, obwohl der Schritt selbst keine Intelligenz braucht.[1]

Die vielen Koordinationsrunden treiben die Kosten. Dass die Trefferquote solcher Agenten mit jeder weiteren Runde sinkt, zeigte zuletzt auch ein Benchmark. Mehr Runden bedeuten mehr Token und obendrein mehr Fehler.

Was ein Workflow anders macht

Adam Jacobs Ansatz kehrt das Verhältnis um. Die Koordination wandert in festen Code, der die Zwischenergebnisse als versionierte, typisierte Daten ablegt. Das Modell wird nur noch für die Teilaufgaben gerufen, die echtes Urteilsvermögen verlangen. Hinter seinem Werkzeug Swamp steht ein Leitsatz: Man nutzt den Agenten, um das Programm zu bauen, das den Agenten überflüssig macht.[1]

Neu ist der Gedanke nicht. Anthropic riet Entwicklern schon früh, den einfachsten Weg zu wählen und feste Workflows autonomen Agenten vorzuziehen, wo der Ablauf planbar ist.[2] Der Praxisfall liefert nun die Zahlen dazu.

Nicht das teurere Modell frisst das Budget, sondern der Agent, der bei jedem Zwischenschritt erneut das Modell befragt. Feste Koordinationslogik im Code bringt Tempo und Kontrolle zugleich.

— Markus Seyfferth, Chefredakteur Dr. Web
Ein Coding-Agent, zwei Bauweisen

Derselbe Prüf-Ablauf, einmal als autonomer Skill, einmal als Workflow mit fester Steuerung. Zahlen aus dem Praxistest von Adam Jacob.

Autonomer Skill Modell steuert

4,5 Mio.
Token je Durchlauf
23
beteiligte Agenten
ca. 12 Min.
Laufzeit

Workflow Code steuert

500.000
Token je Durchlauf
3
beteiligte Agenten
ca. 6,5 Min.
Laufzeit
weniger Token bei halbierter Laufzeit

Was das für den Mittelstand heißt

Für Unternehmen, die künstliche Intelligenz in die Produktion bringen, ist der Token-Verbrauch längst ein Posten in der Betriebsrechnung. Palo-Alto-Chef Nikesh Arora warnte, KI müsse deutlich billiger werden. Statt auf sinkende Preise zu warten, senkt der Umbau die Kosten sofort.

Am Anfang steht eine Bestandsaufnahme: An welchen Stellen sitzt das Modell im heißen Pfad, obwohl der Schritt deterministisch wäre? Danach folgt der Umbau der Koordination in festen Code. Ein nüchterner Vergleich von Token, Laufzeit und Korrektheit belegt anschließend den Gewinn, denn auch die reine Kennzahl Preis pro Token führt leicht in die Irre.

Der Hebel liegt nicht im Modell, sondern in der Architektur. Vor der Buchung des nächsten, teureren Modells lohnt der Blick darauf, wie oft der Ablauf das Modell überhaupt braucht.

Quellen

[1] Adam Jacob: „A Practical Guide to Reducing Token Spend“

[2] Anthropic: „Building Effective Agents“

Mehr Newshunger?

4,5 11 Bewertungen

Wie hat Ihnen dieser Artikel gefallen?