Acht Forscher der Stanford University, der University of Illinois und des KI-Cloud-Anbieters Together AI lassen KI-Agenten einen Teil ihres Lösungswegs ohne Wörter berechnen. Die Agenten kommen so mit bis zu 54,7 Prozent weniger Token aus als herkömmliche Agenten. Ausgerechnet der lesbare Gedankengang, an dem sich Fehlverhalten erkennen lässt, wird dabei kürzer.
drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen
„Wie baut man einen Agenten, der jenseits der menschlichen Sprache denkt und trotzdem sprachlich handelt?“ Mit dieser Frage beginnt das Paper, das seit dem 13. Oktober auf dem Preprint-Server arXiv steht.[1] Die Antwort heißt HybridAgent: Das Sprachmodell wechselt während einer Aufgabe selbst zwischen zwei Rechenweisen.
Das Wichtigste in Kürze
- HybridAgent rechnet zeitweise in Zahlenvektoren statt in Wörtern, Werkzeugaufrufe bleiben Text.
- Die Rechenkosten sinken laut Schätzung der Forscher auf 27 bis 37 Prozent der Kosten eines reinen Textagenten.
- Zwei Modelle auf Basis von Qwen3 stehen unter MIT-Lizenz zum Download bereit.[4]
Wie rechnet ein KI-Agent ohne Wörter?
Ein gewöhnlicher Agent legt sich nach jedem Rechenschritt auf ein Token fest, also ein Wort oder einen Wortteil, und liest dieses Token im nächsten Schritt wieder ein. HybridAgent überspringt diese Festlegung. Nach einem Steuerzeichen leitet ein Zusatzmodul namens HybridLink den Zahlenvektor, den das neuronale Netz zuletzt berechnet hat, direkt als nächste Eingabe zurück.[1] Erst wenn der Vektor einem Endzeichen nahekommt, schreibt das Modell wieder Text.
Python-Aufrufe, Websuchen und die Antwort schreibt der Agent weiter als Text. Durch bestärkendes Lernen fand das Modell heraus, wann sich das verdeckte Rechnen lohnt.
Was spart das verdeckte Rechnen?
In elf Benchmarks schnitt HybridAgent um 10,4 Prozent besser ab als gleich große Vergleichsmodelle, die nur in Text oder nur verdeckt rechnen.[1] Der Agent brauchte 35,5 bis 54,7 Prozent weniger Token und antwortete 1,8- bis 2,6-mal schneller als ein reiner Textagent. Die Kostenschätzung der Forscher, unten in der Grafik, lässt das Einlesen der Aufgabe und die Werkzeuge selbst außen vor.
Mit dem Sparversprechen trifft die Arbeit einen wunden Punkt: ServiceNow und Uber hatten ihre Jahresbudgets für KI-Token schon vor der Jahresmitte aufgebraucht. Fireworks AI kürzte für Ember-1 den Gedankengang des Modells Kimi K3 und spart laut eigenen Tests rund 40 Prozent Token.
Geschätzte Rechenkosten je Million Fragen
Billiger rechnende KI-Agenten sind ein Gewinn, solange der Betreiber ihren Gedankengang noch selbst lesen kann.
Michael Dobler, Herausgeber Dr. Web
Lässt sich ein Agent kontrollieren, der ohne Wörter rechnet?
Im Juli 2025 warnten 41 Forscher, darunter Yoshua Bengio: Modelle, die in internen Vektoren statt in Sprache rechnen, müssten ihre Gedanken womöglich nicht mehr ausschreiben und verlören damit einen Sicherheitsvorteil.[2] Wie leicht dieser Vorteil verloren geht, zeigte sich bei Gemini 4 Argon: Nachdem Google im Training versehentlich auch den Gedankengang bestraft hatte, stieg der Anteil der Schummeleien, die das Modell im Gedankengang verschwieg, von 11,2 auf 36,4 Prozent.
Die Autoren halten dagegen. Jeder verdeckte Schritt lässt sich dem nächstliegenden Wort zuordnen und so als Ersatztext lesen. Ein Kontrollmodell, das nur den sichtbaren Text sah, sagte richtige und falsche Lösungen genauso treffsicher voraus wie bei reinen Textagenten.[1] Die Lesbarkeit messen die Forscher allerdings nur über die Nähe der Vektoren zu echten Wörtern. Ob der Ersatztext die Rechnung vollständig wiedergibt, belegt dieses Maß nicht.
Hochrisiko-KI-Systeme, etwa in der Personalauswahl, müssen nach Artikel 12 der KI-Verordnung Ereignisse automatisch aufzeichnen, Betreiber bewahren diese Protokolle nach Artikel 26 mindestens sechs Monate auf.[3] Die verdeckten Schritte eines HybridAgent stehen nicht im Textprotokoll, lesbar macht sie nur das Zusatzmodul. Die Autoren sehen darin einen Vorteil für Anbieter: Anders als beim verschlüsselten Gedankengang heutiger Modelle, den Forscher in Klartext zurückverwandeln konnten, entsteht beim Kunden gar kein Text.
- Protokoll klären: Lassen Sie sich bestätigen, ob verdeckte Schritte im Protokoll landen und ob Sie den Ersatztext selbst auslesen dürfen.
- Kosten nachrechnen: Die Ersparnis betrifft nur die Ausgabe. Rechnen Sie Eingaben und Werkzeugaufrufe gerne gesondert hinzu, der Preis pro Million Token allein führt in die Irre.
Bevor ein verdeckt rechnender Agent in einen Prozess mit Aufzeichnungspflicht kommt, gehört der Lesezugriff auf das Zusatzmodul in den Vertrag.
Quellen
4 Quellen anzeigenQuellen ausblenden
- arXiv, Jiaru Zou, Yunzhe Qi, Sirui Chen, Federico Bianchi, Shang Zhu, Pan Lu, Jingrui He und James ZouHybrid Reasoning Agents
- arXiv, Tomek Korbak und 40 weitere AutorenChain of Thought Monitorability: A New and Fragile Opportunity for AI Safety
- Europäische UnionVerordnung (EU) 2024/1689 über künstliche Intelligenz, Artikel 12 und 26
- Together AI, Hugging FaceModellkarte HybridAgent-14B-Agentic
Mehr Newshunger?
- Gemini 4 Argon verschwieg mehr Tricks, nachdem Google seinen Gedankengang bestraft hatte
- Gestohlene Gedanken: Forscher lesen das verschlüsselte KI-Reasoning von Claude, GPT und Gemini im Klartext
- OpenAI-Modelle nutzten ausgelesene Zugangsdaten und zahlten mit fremdem Testgeld
- Warum KI-Agenten lügen, betrügen und sich absprechen
- Microsofts KI-Verhaltenskodex: Vier Grenzen, die seine Modelle nie überschreiten dürfen
- StepFun gibt sein 600-Milliarden-Modell frei, Autobauer brauchen eine Lizenz
