Unsloth

Qwen3.8 27B quantisiert: 4-Bit hält die Qualität, 1-Bit bricht zusammen

Ein Sprachmodell zu quantisieren, also auf einen Bruchteil seiner Größe zu schrumpfen, kostet oft keinen einzigen Prozentpunkt Genauigkeit; eine Stufe zu tief zerfallen die...

Michael Dobler

2 Min. Weiterlesen