Neun Tage nach Version 0.29.0 hat das Team hinter ggml am 13. November die Nummer 1.0.0 vergeben. Die Bibliothek bildet den Unterbau von llama.cpp, deshalb erreicht die neue Version mittelbar auch Betriebe, die KI-Modelle auf eigener Hardware laufen lassen. Veraltete Schnittstellen sind entfernt. Das Netzwerkprotokoll für mehrere Rechner weist ältere Gegenstellen ab.
Ein Klick · kostenlosDr. Web bei Google bevorzugenMarkieren Sie drweb.de als bevorzugte Quelle. Dann sehen Sie unsere Artikel öfter unter den Top-Meldungen.Jetzt hinzufügenInhalt 4 Abschnitte
Die Entwickler von ggml haben am 13. November 2026 die Version 1.0.0 der gleichnamigen Bibliothek für maschinelles Lernen veröffentlicht.[1] ggml ist in reinem C und C++ ohne Abhängigkeiten geschrieben und läuft auf x86, ARM und RISC-V, auf Grafikkarten und im Browser.[2] Davor waren 0.27.0 am 15. Oktober, 0.28.0 am 28. Oktober und 0.29.0 am 4. November erschienen.[1]
Das Wichtigste in Kürze
- Version 1.0.0 entfernt veraltete Schnittstellen, darunter die Operationen DIAG_MASK_INF und DIAG_MASK_ZERO.[1]
- Das RPC-Protokoll steigt auf Version 9 und lehnt inkompatible Gegenstellen ab.[1]
- Neu sind FP8-Unterstützung auf Nvidia-Grafikkarten, eine einstellbare YaRN-Rundung und schnellere Rechenwege für Mixture-of-Experts-Modelle.[1]
- Als Bruch mit Vorversionen hat das Team keine Änderung gekennzeichnet.[1]
Was ändert sich mit Version 1.0.0?
Das Team hat veraltete Schnittstellen entfernt, darunter die Operationen DIAG_MASK_INF und DIAG_MASK_ZERO.[1] Gleichzeitig ist das RPC-Protokoll auf Version 9 gestiegen, es lädt schneller und scheitert bei unerreichbaren Gegenstellen geordneter.[1] Über dieses Protokoll arbeiten ggml-Instanzen auf mehreren Rechnern zusammen.
Hinzu kommen FP8-Unterstützung für CUDA, eine einstellbare Rundung für die Positionskodierung YaRN und schnellere Rechenwege für Mixture-of-Experts-Modelle auf CUDA und Apples Metal.[1] Auch für Vulkan auf Intel-Grafik, SYCL, OpenCL auf Qualcomms Adreno, WebGPU und Hexagon führen die Release-Notes Neuerungen auf.[1]
Warum bekommt ggml gerade jetzt eine 1.0?
Georgi Gerganov, der Entwickler von ggml und llama.cpp, hat am 7. August beschrieben, dass ggml seine Releases nach dem Schema vX.Y.Z nummeriert, während llama.cpp daneben fortlaufende b-Nummern führt.[3] Vier ggml-Versionen in 29 Tagen zeigen, wie dicht das Tempo inzwischen ist. Fast jede Änderung der Release-Notes verweist auf einen Pull Request aus dem Repository von llama.cpp. Die 1.0 bündelt also die Praxis des größeren Projekts unter einer eigenen Nummer.[1]
Als Bruch hat das Team keine Änderung gekennzeichnet, obwohl Schnittstellen verschwinden und das Protokoll ältere Partner abweist. Ob die 1.0 eine Stabilitätszusage für künftige Versionen ist, lassen die Entwickler in den Release-Notes offen.[1] Seit Februar gehört das Team zu Hugging Face, das Projekt bleibt laut Ankündigung Open Source.[4]
Was sollten Betriebe mit eigener KI-Hardware jetzt tun?
Betriebe, die Sprachmodelle auf eigenen Servern betreiben, etwa damit Kundendaten das Haus nicht verlassen, nutzen ggml oft indirekt über llama.cpp. Eine Anleitung, wie sich Modelle auf eigener Hardware betreiben lassen, steht bei uns, ebenso die Gründe, warum lokale Modelle alltagstauglich geworden sind.
Eine 1.0 sagt noch nichts über Stabilität, die Änderungsliste schon.
Markus Seyfferth, Chefredakteur Dr. Web
Prüfen Sie vor dem Update, ob eigene Programme die entfernten Operationen noch verwenden. Läuft ein Modell über RPC verteilt auf mehreren Rechnern, aktualisieren Sie alle Rechner im selben Schritt, weil das Protokoll ältere Gegenstellen abweist.[1] Ein Testlauf auf einem einzelnen Rechner zeigt vorab, ob die Modelle nach dem Update gleich antworten.
Quellen
4 Quellen anzeigenQuellen ausblenden
- ggml-orgggml v1.0.0, Release-Notes
- ggml-orgggml, README (Tensor library for machine learning)
- Georgi GerganovReleases and versioning of ggml-org projects
- Hugging FaceGGML and llama.cpp join HF to ensure the long-term progress of Local AI
Mehr Newshunger?
- Apple testet die Mac-App Harbor für lokale KI-Modelle
- Muse Glimmer: Metas offenes KI-Modell läuft auf einer einzelnen Grafikkarte
- Gemma 4 26B mit 5 Tokens pro Sekunde auf einem 13 Jahre alten Xeon ohne GPU
- Bonsai 27B: Ein Modell der 27B-Klasse, das auf dem Smartphone läuft
- transcribe.cpp: Spracherkennung für 16 Modellfamilien läuft jetzt lokal
- Open-Source-KI als öffentliches Gut: AI Potluck kartiert 24.600 Projekte
