Artikel teilen

KI-Agenten sind bequem, aber teuer. Jeder Koordinationsschritt läuft über das Sprachmodell und kostet Token. Ein Praxistest zeigt: Derselbe Ablauf kommt mit rund einem Achtel der Token aus, sobald die Steuerung aus dem Modell herauswandert.

Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügen
Inhalt 4 Abschnitte
  1. Warum autonome Agenten Token verbrennen
  2. Was ein Workflow anders macht
  3. Was das für den Mittelstand heißt
  4. Mehr Newshunger?

Um die Token-Kosten zu senken, wechseln die meisten Teams das Modell. Der Softwareunternehmer Adam Jacob zeigt einen wirksameren Hebel. Sein Umbau eines Coding-Agenten senkte den Verbrauch von 4,5 Millionen auf rund 500.000 Token, bei gleicher Funktion.[1]

Auf einen Blick

Das Wichtigste in Kürze

  • Autonome Agenten halten das Sprachmodell dauerhaft im heißen Pfad; jeder Prüf- und Koordinationsschritt kostet erneut Token.
  • In einem Praxistest sank der Token-Verbrauch eines Coding-Agenten um das Achtfache, die Laufzeit halbierte sich.
  • Der Hebel ist die Architektur: feste Koordinationslogik als Code, das Modell nur noch für die eigentliche Denkarbeit.
  • Für Unternehmen ist der Umbau ein Kostenhebel, der ohne schwächeres Modell auskommt.

Warum autonome Agenten Token verbrennen

Hale Taxameter mit Belegschleife in Unendlichkeitsform auf Weiß
Agent delegiert Aufgaben an Unter-Agenten, deren Ergebnisse das Sprachmodell bewertet. Jede Bewertung ist ein neuer Modellaufruf in zirkulären Schleifen

Ein klassischer Agent delegiert seine Aufgabe an mehrere Unter-Agenten und lässt die Ergebnisse anschließend vom Sprachmodell bewerten. Jede Bewertung ist ein neuer Modellaufruf, und das Modell beurteilt dabei die Ausgabe eines anderen, ebenfalls nicht-deterministischen Schritts. So entstehen zirkuläre Schleifen, in denen das Modell im heißen Pfad sitzt, obwohl der Schritt selbst keine Intelligenz braucht.[1]

Die vielen Koordinationsrunden treiben die Kosten. Dass die Trefferquote solcher Agenten mit jeder weiteren Runde sinkt, zeigte zuletzt auch ein Benchmark. Mehr Runden bedeuten mehr Token und obendrein mehr Fehler.

Was ein Workflow anders macht

Adam Jacobs Ansatz kehrt das Verhältnis um. Die Koordination wandert in festen Code, der die Zwischenergebnisse als versionierte, typisierte Daten ablegt. Das Modell wird nur noch für die Teilaufgaben gerufen, die echtes Urteilsvermögen verlangen. Hinter seinem Werkzeug Swamp steht ein Leitsatz: Man nutzt den Agenten, um das Programm zu bauen, das den Agenten überflüssig macht.[1]

Neu ist der Gedanke nicht. Anthropic riet Entwicklern schon früh, den einfachsten Weg zu wählen und feste Workflows autonomen Agenten vorzuziehen, wo der Ablauf planbar ist.[2] Der Praxisfall liefert nun die Zahlen dazu.

Nicht das teurere Modell frisst das Budget, sondern der Agent, der bei jedem Zwischenschritt erneut das Modell befragt. Feste Koordinationslogik im Code bringt Tempo und Kontrolle zugleich.

Markus Seyfferth, Chefredakteur Dr. Web
Zitat teilen
Ein Coding-Agent, zwei Bauweisen

Derselbe Prüf-Ablauf, einmal als autonomer Skill, einmal als Workflow mit fester Steuerung. Zahlen aus dem Praxistest von Adam Jacob.

Autonomer Skill Modell steuert

4,5 Mio.
Token je Durchlauf
23
beteiligte Agenten
ca. 12 Min.
Laufzeit

Workflow Code steuert

500.000
Token je Durchlauf
3
beteiligte Agenten
ca. 6,5 Min.
Laufzeit
8×weniger Token bei halbierter Laufzeit

Was das für den Mittelstand heißt

Für Unternehmen, die künstliche Intelligenz in die Produktion bringen, ist der Token-Verbrauch längst ein Posten in der Betriebsrechnung. Palo-Alto-Chef Nikesh Arora warnte, KI müsse deutlich billiger werden. Statt auf sinkende Preise zu warten, senkt der Umbau die Kosten sofort.

Am Anfang steht eine Bestandsaufnahme: An welchen Stellen sitzt das Modell im heißen Pfad, obwohl der Schritt deterministisch wäre? Danach folgt der Umbau der Koordination in festen Code. Ein nüchterner Vergleich von Token, Laufzeit und Korrektheit belegt anschließend den Gewinn, denn auch die reine Kennzahl Preis pro Token führt leicht in die Irre.

Der Hebel liegt nicht im Modell, sondern in der Architektur. Vor der Buchung des nächsten, teureren Modells lohnt der Blick darauf, wie oft der Ablauf das Modell überhaupt braucht.

Quellen

2 Quellen anzeigenQuellen ausblenden
  1. Adam JacobA Practical Guide to Reducing Token Spend
  2. AnthropicBuilding Effective Agents

Mehr Newshunger?

4,5 11 Bewertungen

Wie hat Ihnen dieser Artikel gefallen?

Dr. Web Newsletter

Jede Woche ein bisschen klüger.

Der Dr. Web Newsletter: die besten Artikel, Anbieter-Tipps und neue Tools, kompakt zusammengefasst, jeden Donnerstag. Kostenlos und jederzeit abbestellbar.