Option
Heim
Eilmeldung
Inhalt
EdwardLee
EdwardLee
20. August 2026

Tongyi Qianwen hat das Unsloth-Team öffentlich dafür gedankt, die quantisierte Version Qwen3.8-27B im GGUF-Format veröffentlicht zu haben, und bezeichnete sie als kleiner und leistungsfähiger. Die neue Quantisierungslösung Unsloth Dynamic V3 3.0 steigert die Genauigkeit um mehr als 10 Prozent im Vergleich zu ähnlichen Lösungen derselben Größe und liefert bei wichtigen Aufgaben eine Leistung, die der von Vollpräzisionsmodellen nahekommt. Die 1-Bit-Variante benötigt dabei nur 8 GB Speicher. Die ultrakomprimierten Versionen verringern die Dateigrößen im Vergleich zu den Vollpräzisionsformaten um etwa 89 Prozent. Durch diese Fortschritte sinkt die Hürde für die lokale Nutzung großer Modelle, wodurch herkömmliche Geräte das Modell mit seinen multimodalen Fähigkeiten sowie unter Verwendung der Apache 2.0-Lizenz nutzen können – was die Abhängigkeit von Cloud-Diensten verringert. Entwickler können die Dateien gemäß den bereitgestellten Anleitungen über Hugging Face herunterladen.

Tongyi Qianwen hat das Unsloth-Team öffentlich dafür gedankt, die quantisierte Version Qwen3.8-27B im GGUF-Format veröffentlicht zu haben, und bezeichnete sie als kleiner und leistungsfähiger. Die neue Quantisierungslösung Unsloth Dynamic V3 3.0 steigert die Genauigkeit um mehr als 10 Prozent im Vergleich zu ähnlichen Lösungen derselben Größe und liefert bei wichtigen Aufgaben eine Leistung, die der von Vollpräzisionsmodellen nahekommt. Die 1-Bit-Variante benötigt dabei nur 8 GB Speicher. Die ultrakomprimierten Versionen verringern die Dateigrößen im Vergleich zu den Vollpräzisionsformaten um etwa 89 Prozent. Durch diese Fortschritte sinkt die Hürde für die lokale Nutzung großer Modelle, wodurch herkömmliche Geräte das Modell mit seinen multimodalen Fähigkeiten sowie unter Verwendung der Apache 2.0-Lizenz nutzen können – was die Abhängigkeit von Cloud-Diensten verringert. Entwickler können die Dateien gemäß den bereitgestellten Anleitungen über Hugging Face herunterladen.
Kommentare (0)
0/300
OR