Wie senkt Modell-Routing die Kosten für Unternehmens-KI?

Modell-Routing bei Snowflake: Das kleine KI-Modell fängt an, das teure übernimmt den Rest

Michael Dobler

Autor Dr. Web

18. August 2026

2 Min. Lesezeit

Snowflake lässt künftig ein Modell-Routing im Cortex AI Gateway bestimmen, welches Sprachmodell eine Anfrage bearbeitet. Ein günstiges Modell beginnt die Arbeit und zieht das teure Spitzenmodell nur für die Reststrecke hinzu. Nach firmeneigenen Tests baute ein Agent auf diesem Weg eine dbt-Pipeline mit bis zur dreifachen Token-Effizienz.

drweb.de als bevorzugte Quelle auf Google hinzufügenQualitätsgeprüfte Inhalte direkt in Google News & DiscoverJetzt hinzufügen

Snowflake-Chef Sridhar Ramaswamy begründet den Schritt mit einer neuen Strenge auf Kundenseite. „Die Frage lautet nicht mehr, wie viel KI sie einsetzen, sondern ob diese KI sich in messbaren geschäftlichen Wert übersetzt“, sagt er zur Ankündigung vom 18. August.^[1]

Das Wichtigste in Kürze

Ein Klassifikator schickt einfache Anfragen an sparsame Modelle, aufwendige Aufgaben landen bei den Spitzenmodellen.
Snowflake misst bis zur dreifachen Token-Effizienz beim Bau einer dbt-Pipeline und 25 Prozent mehr bei Pull Requests.
Neu im Katalog stehen DeepSeek-V4-Flash 0731 und GLM-5.3, beide in geschlossener Vorschau.
Das Gateway verteilt Anfragen auch nach Vorgaben zum Speicherort der Daten.

Wie spart ein Router Token, ohne das Ergebnis zu verschlechtern?

Modelleisenbahn mit schwarzer Dampflok, hellblauem Waggon und zwei Schildern auf Gleis vor Weiß — Kleine KI-Modelle bearbeiten Anfragen zunächst selbst, rufen große Modelle nur bei Bedarf auf. Ein Klassifikator leitet einfache Fragen direkt ans sparsame Modell weiter

Der Gewinn entsteht nicht aus billigeren Token, sondern aus einer anderen Arbeitsteilung. Ein kleines Modell übernimmt die Aufgabe zuerst und ruft das große Modell erst als Werkzeug auf, sobald die eigene Kraft nicht reicht. Parallel dazu sortiert ein auf früheren Anfragen trainierter Klassifikator harmlose Fragen direkt an das sparsame Modell. So schildern Branchenmedien den Ablauf nach Gesprächen mit dem Unternehmen. Das teure Modell bearbeitet damit nur noch die Reststrecke statt der ganzen Aufgabe.

Die Zahlen dazu stammen aus Snowflakes eigenen Versuchen und nicht aus einer unabhängigen Prüfung. Ein Agent baute eine dbt-Pipeline mit bis zur dreifachen Token-Effizienz gegenüber dem reinen Einsatz von Spitzenmodellen, bei gleichbleibender Qualität. Entwicklerteams schafften dieselbe Zahl an Pull Requests mit einer um 25 Prozent besseren Token-Effizienz.^[1]

Warum die Verteilerschicht zum eigenen Produkt wird

Die Modellwahl wandert aus der Anwendung heraus in eine Zwischenschicht. Genau dort verdichtet sich gerade der Wettbewerb, wie der Preis für den KI-Router OpenRouter zeigt: Stripe zahlt laut Bloomberg über sieben Milliarden US-Dollar, umgerechnet über 6,1 Milliarden Euro (Kurs 0,87 am 18. August 2026).

Die Kostenfrage treibt das Feld seit Monaten. DeepSeek staffelt seine Preise inzwischen nach Uhrzeit, ein Graumarkt handelt KI-Guthaben über fremde Proxys. Fachleute rechnen seit Juli vor, warum autonome Agenten oft unnötig viele Token verbrennen.

Die eigentliche Neuerung liegt nicht im Sparen, sondern in der Kontrolle. Künftig entscheidet der Anbieter, welches Modell eine Anfrage überhaupt zu sehen bekommt.
— Markus Seyfferth, Chefredakteur Dr. Web

Was das Routing einspart

Token-Effizienz beim Pipeline-Bau

bis 3-fach

Agent baut eine dbt-Pipeline, verglichen mit dem reinen Einsatz von Spitzenmodellen bei gleicher Qualität

Token-Effizienz bei Pull Requests

plus 25 %

Entwicklerteams schaffen dieselbe Zahl an Pull Requests mit geringerem Tokenverbrauch

Reichweite der Plattform

13.900

Kunden nutzen nach Angaben von Snowflake weltweit die AI Data Cloud

Die beiden neuen Modelle im Katalog

DeepSeek-V4-Flash 0731

74,4 %

Punktwert bei Aufgaben aus dem Data Engineering, geschlossene Vorschau

GLM-5.2 im Vergleichstest

62,8 %

Punktwert bei geringerem Tokenverbrauch als die übrigen geprüften Modelle; in die Vorschau kommt der Nachfolger GLM-5.3

In Europa zählt der Nachweis, nicht allein der Preis

Das Gateway verteilt Anfragen nach Kosten, Antwortzeit, Fähigkeit und Vorgaben zum Speicherort der Daten. Die Dokumentationspflichten bleiben beim Anwender.

Artikel 30

das Verzeichnis der Verarbeitungstätigkeiten nach DSGVO benennt konkrete Empfänger, auch bei wechselnder Modellwahl

27.06.2025

an diesem Tag meldete die Berliner Datenschutzbeauftragte die DeepSeek-App nach Artikel 16 DSA bei Apple und Google

Was bedeutet das für Unternehmen in Europa?

Am Routing hängt für europäische Anwender vor allem die Nachweisbarkeit. Das Gateway verteilt Anfragen nach Kosten, Antwortzeit, Fähigkeit und Vorgaben zum Speicherort der Daten.^[2] Ein Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO und das Verarbeitungsverzeichnis nach Artikel 30 benennen dagegen konkrete Empfänger. Tauscht der Router im laufenden Betrieb das Modell, muss die Dokumentation diesen Wechsel abbilden.

Bei DeepSeek und GLM-5.3 aus dem Haus Zhipu lohnt eine Unterscheidung. Die Berliner Datenschutzbeauftragte meldete die DeepSeek-App am 27. Juni 2025 nach Artikel 16 des Digital Services Act bei Apple und Google als rechtswidrigen Inhalt, weil Nutzerdaten nach China abflossen.^[3] Offene Modellgewichte auf der Infrastruktur eines US-Anbieters lösen diesen Abfluss nicht aus. Ungeklärt bleibt die Herkunftsfrage, denn Beschaffungsregeln und interne Freigabelisten kennen selten eine Kategorie für ein chinesisches Modell auf westlicher Infrastruktur.

Zwei Schritte lohnen sich vor der Aktivierung. Die Freigabeliste der Modelle gehört geprüft, weil das Gateway die Auswahl je Region und Compliance-Vorgabe begrenzen kann. Danach gehört ein Budget-Limit je Team oder Agent gesetzt, wofür Snowflake die Kostensteuerung eigens gebaut hat. Der Preisdruck bei KI-Modellen bleibt das bestimmende Thema der kommenden Monate.