騰訊渾元運用 2 位元與 1.25 位元量化技術,將其 18 億參數的翻譯模型壓縮以適用於邊緣裝置,在維持近乎無損品質的同時,將檔案大小分別縮減至約 574MB 與 440MB。 該解決方案已部署於嗶哩哩哩,用於即時直播留言翻譯,僅佔用 500 至 700 MB 記憶體,處理留言耗時 500 至 800 毫秒,並透過本地運算降低成本並強化隱私保護。這標誌著該技術已從實驗室示範成功突破,邁向跨行動與電腦平台的高並發商業應用。
評論 (0)
0/300





首頁
