Inkling 2 Mini hat 26,4 Milliarden Parameter, belegt rund 20 Gigabyte und lief laut Thinking Machines offline auf einem MacBook Pro.[1] Das Modell rechnet die mittleren Schichten bei jedem Token dreimal durch und führt damit mehrere Coding-Tests unter den offenen Modellen mit weniger als 100 Milliarden Parametern an.[1]
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenInhalt 4 Abschnitte
Thinking Machines hat am 20. November das Sprachmodell Inkling 2 Mini mit offenen Gewichten unter Apache-2.0-Lizenz veröffentlicht.[2] Es folgt auf Inkling 2 Small, das zunächst nur über die Plattform Tinker lief.[1]
Das Wichtigste in Kürze
- Inkling 2 Mini hat 26,4 Milliarden Parameter, davon 3,4 Milliarden aktiv je Token, und läuft laut Modellkarte auf Apple-Rechnern ab 32 Gigabyte oder auf einem Nvidia DGX Spark.[2]
- Bei DeepSWE und SWE-bench Pro führt das Modell nach Herstellerangaben die vergleichbar großen offenen Modelle an.[1]
- Bei Anweisungen mit vielen Nebenbedingungen liegt es hinter Qwen3.8-27B.[1]
- Mehr Rechenschritte verbessern das Schlussfolgern, nicht das gespeicherte Faktenwissen.[1]
Was bringt die Schleife im Modell?

Inkling 2 Mini ist ein Looped Transformer: Von 24 Schichten laufen die mittleren zwölf bei jedem Token dreimal, das ergibt 48 Schichtdurchläufe aus 24 gespeicherten Schichten.[1] Das Modell rechnet damit länger, ohne größer zu werden. Die mittleren Schichten tragen laut Thinking Machines die abstrakteren Denkschritte, und in 27 von 28 Auswertungen brachte ihre Wiederholung mehr Genauigkeit als die Wiederholung der letzten zwölf Schichten.[1]
Ein Modell ohne Schleife wäre im Training 7,5 Prozent billiger gewesen, braucht aber 140 Prozent mehr Rechenaufwand beim Einsatz, um denselben Trainingsfehler auf 512.000 Token langen Agenten-Verläufen zu erreichen.[1] Das Training kostet etwas mehr, dafür wird der laufende Betrieb deutlich günstiger.
Die geringe Größe stammt aus einem Beschnitt: Das Team entfernte mitten im Training zwei Drittel der Experten, von 384 blieben 128 je Schicht.[1] Anschließend trainierte das Team mit einer Billion Token aus einem größeren Inkling-Modell nach.[1]
Wie belastbar sind die Zahlen?
Alle Werte stammen vom Hersteller, und die Testaufbauten unterscheiden sich je Modell.[1] In DeepSWE v1.1 löst Inkling 2 Mini 48,2 Prozent der Aufgaben, Qwen3.8-27B kommt auf 42,2 Prozent, in SWE-bench Pro v2 Hard stehen 77,9 gegen 73,8 Prozent.[1] Im Terminal Bench 2.1 liegt Alibabas Qwen3.8-27B mit 73,0 zu 71,6 Prozent vorn.[1]
Schwächen nennt Thinking Machines selbst: Bei MultiChallenge erreicht das Modell 50,0 Prozent, bei ComplexConstraints 33,4 Prozent, beides hinter Qwen3.8-27B.[1] Die Nichthalluzinationsrate in AA-Omniscience beträgt 63,4 Prozent, bei Qwen3.8-27B sind es 71,4 Prozent.[1] Faktenwissen hängt laut Hersteller an der Gesamtzahl der Parameter, die Schleife ändert daran nichts. Das Modell gleicht das über Suche und Werkzeuge aus und führt bei BrowseComp, DeepSearchQA und MCP Atlas die offenen Modelle ähnlicher Größe an.[1]
Mehr interne Rechenschritte können die lesbare Argumentation (Chain of Thought) verkürzen. Bei der Forschungsvariante mit einstellbarer Schleife halbierte sich die Argumentation von 3.703 auf 1.661 Token, blieb aber lesbar.[1]
Ein Modell, das auf dem Laptop läuft, macht die Frage nach dem Datenabfluss zur Hardwarefrage.
Markus Seyfferth, Chefredakteur Dr. Web
Was heißt das für Betreiber in Deutschland?
Läuft das Modell auf eigener Hardware, fließen Quelltext und Prompts nicht an einen Cloud-Anbieter, damit entfällt für diesen Zweck auch der Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO. Forscher des Hazy Research Lab in Stanford maßen auf einem DGX Spark 0,703 Punkte bei der Intelligenz pro Joule, Qwen3.6-35B-A3B erreichte 0,430.[1]
Entwickler testen das Modell zuerst an eigenen Aufgaben, weil die Rangfolge bei Anweisungen mit vielen Bedingungen kippt, und halten Qwen3.8-27B als Vergleich bereit. Neben Apache 2.0 verweist die Modellkarte auf eine Acceptable Use Policy, die Unternehmen vor dem Einsatz lesen.[2]
Quellen
2 Quellen anzeigenQuellen ausblenden
- Thinking Machines LabIntroducing Inkling 2 Mini
- Thinking Machines LabModellkarte Inkling 2 Mini auf Hugging Face
Mehr Newshunger?
- Thinking Machines startet Inkling 2 Small, offene Gewichte folgen
- Qwen3.8-27B: Alibabas Spitzenmodell läuft gratis auf der Heim-Grafikkarte
- Muse Glimmer: Metas offenes KI-Modell läuft auf einer einzelnen Grafikkarte
- Meta stellt sein kleinstes KI-Modell Muse Ember vor
- Nemotron 3.5 Lightning: Nvidia wählt Tempo statt Spitzenplatz
- Ricursive: Ripple-65B schlägt größere US-Modelle im Coding-Test
