智東西
作者 程茜
編輯 云鵬

0.4G、離線也能跑的翻譯模型，開源了！

智東西4月29日報道，今日，騰訊混元開源翻譯模型Hy-MT1.5-1.8B-1.25bit。該模型僅0.4G，就實現(xiàn)了33種語言高質(zhì)量互譯，且下載后可直接在手機(jī)本地離線運行，翻譯表現(xiàn)優(yōu)于谷歌翻譯。

這一原始模型的參數(shù)規(guī)模為1.8B，為降低用戶手機(jī)內(nèi)存壓力，騰訊混元團(tuán)隊通過量化壓縮推出了適配中高性能手機(jī)的2-bit、全系列手機(jī)的1.25-bit兩種方案，模型體積分別被壓縮至574MB、440MB。

▲開源項目主頁

此次開源，騰訊混元團(tuán)隊還制作了一個實際可用的騰訊混元翻譯Demo版，并適配“后臺取詞模式”。用戶在本地查看郵件、瀏覽網(wǎng)頁時，都能隨時調(diào)用混元翻譯，且無需網(wǎng)絡(luò)、訂閱，翻譯過程都在本地處理、不涉及個人信息的采集和上傳，一次下載永久免費使用。該Demo暫時只支持安卓體驗， 后續(xù)正式版會添加對IOS等平臺的支持。

▲演示設(shè)備：高通驍龍7+gen2，16GB內(nèi)存

Hy-MT1.5是騰訊混元團(tuán)隊打造的專業(yè)翻譯大模型，原生支持33種語言、5種方言及1056個翻譯方向，包含中英互譯以及對法語、日語、阿拉伯語、俄語，甚至藏語、蒙古語等各種語言的翻譯。

▲翻譯模型演示，設(shè)備：高通驍龍865，8GB內(nèi)存

騰訊混元的基準(zhǔn)測試結(jié)果顯示，Hy-MT1.5的翻譯效果可比肩商業(yè)翻譯API和235B級大模型的翻譯效果，且翻譯質(zhì)量在基準(zhǔn)測試中超過了谷歌翻譯等主流系統(tǒng)。

原始1.8B模型在FP16精度下會占用3.3GB內(nèi)存，為了不占用手機(jī)內(nèi)存，研究人員進(jìn)行了量化壓縮。

其將模型里原本用16位數(shù)字（16-bit）表示的參數(shù)轉(zhuǎn)用更低位數(shù)字儲存。這就像把一幅高清照片壓縮成縮略圖，雖然文件小但還是能看清楚內(nèi)容。

此外，針對不同的手機(jī)用戶，騰訊還推出了2-bit與1.25-bit兩種量化壓縮方案。其實測顯示，量化壓縮后的兩款模型表現(xiàn)效果遠(yuǎn)超同體積或更大體積大模型的翻譯效果。

2-bit適用的中高端機(jī)型，模型體積壓縮至574MB。

根據(jù)官方介紹，2-bit模型采用拉伸彈性量化（SEQ），將模型參數(shù)量化至{-1.5，-0.5，0.5，1.5}，并結(jié)合量化感知蒸餾，在將模型體積壓縮至574MB的同時，實現(xiàn)了幾乎無損翻譯質(zhì)量，效果超越上百GB的大模型。在支持Arm SME2技術(shù)的移動設(shè)備上，2-bit模型能夠?qū)崿F(xiàn)更快速、更高效的推理。

1.25-bit模型適用全系機(jī)型，模型體積為440MB。

這一模型基于Sherry（稀疏高效三值量化）技術(shù)，其核心邏輯在于“細(xì)粒度稀疏”策略：每4個模型參數(shù)，3個最重要的用1-bit儲存，1個用0儲存，平均每個參數(shù)僅需1.25-bit。

此外，其還搭載了騰訊為手機(jī)CPU設(shè)計的STQ內(nèi)核，適配SIMD指令集。這使得該模型能長時間在后臺停留。Sherry技術(shù)方案已經(jīng)被NLP頂級學(xué)術(shù)會議ACL 2026錄用。

結(jié)語：騰訊混元拉低離線翻譯普及門檻

AI翻譯已成為手機(jī)、輸入法、瀏覽器、會議、客服工具等各種工具的標(biāo)配功能，但大多工具仍是聯(lián)網(wǎng)調(diào)用云端API，離線能力弱、體驗差、隱私風(fēng)險高。

騰訊混元此次開源輕量化翻譯模型，用幾百MB級的體積實現(xiàn)了媲美云端大模型的翻譯質(zhì)量，或直接把高端離線翻譯從云端特權(quán)拉到手機(jī)可普及的門檻。