首頁
通義千問公開感謝了 Unsloth 團隊釋出了 Qwen3.8-27B 的 GGUF 量化版本，稱其體積更小且效能更優。全新的 Unsloth Dynamic V3 3.0 量化方案在相同尺寸下相比同類方案能提升超過 10% 的準確率，在關鍵任務中的表現已接近全精度水平；而其 1 位版本的執行記憶體需求僅為 8GB。經過超壓縮處理的版本，其檔案大小相較於全精度版本可減少約 89%。這些技術進步降低了大型模型在本地部署的門檻，使得普通裝置也能使用具備多模態處理能力且採用 Apache 2.0 許可協議的該模型，從而減少對雲服務的依賴。開發者可按照提供的執行指南從 Hugging Face 下載相關檔案。
評論 (0)
0/300
