Дом
Tencent Hunyuan запустила модель офлайн-перевода 0.4G, обеспечивающую связь без использования мобильной сети для путешествий в период Первомая
В преддверии «Золотой недели» в честь Первомая команда Tencent Huan Yuan выпустила ультра-квантованную версию своей профессиональной большой модели машинного перевода, предлагая надежное языковое решение для путешественников, отправляющихся за границу. Модель под названием Hy-MT1.5-1.8B-1.25bit занимает всего 440 МБ и эффективно работает на мобильных устройствах в автономном режиме.

Технология ультра-сжатия позволяет использовать модель в автономном режиме на мобильных устройствах
Модель использует передовую квантование для сжатия своего исходного размера с более чем 3 ГБ до всего одной восьмой, что позволяет ей плавно работать в фоновом режиме на стандартных смартфонах. Даже в отдаленных живописных местах без сетевого сигнала или во время внезапных чрезвычайных ситуаций пользователи по-прежнему могут получать мгновенные высококачественные переводы.
Команда предлагает два варианта квантования: 2-битный и 1,25-битный. В 1,25-битной версии используется стратегия тонкозернистой разреженности, одобренная на ведущей академической конференции, при которой три из каждых четырех параметров хранятся с использованием 1 бита, что обеспечивает высокую производительность перевода несмотря на компактный размер.

Качество перевода профессионального уровня с защитой конфиденциальности
Несмотря на небольшой размер, модель демонстрирует выдающуюся производительность при работе с 33 языками, пятью диалектами и тысячами направлений перевода. По результатам нескольких авторитетных тестов точность перевода превосходит показатели Google Translate и сопоставима с коммерческими моделями, имеющими гораздо больше параметров.
Поскольку вся обработка перевода происходит полностью на устройстве, пользователям не нужно беспокоиться о сборе или загрузке личных конфиденциальных данных, что значительно повышает уровень конфиденциальности и безопасности. Проект теперь полностью открыт и включает в себя демонстрационное приложение, позволяющее пользователям Android опробовать такие функции, как поиск слов в фоновом режиме, без абонентской платы.
Попробуйте демо-версию:
Hugging Face (для пользователей за рубежом): https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/main/Hy-MT-demo.apk
Сообщество ModelScope (для пользователей в Китае): https://modelscope.cn/models/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/master/Hy-MT-demo.apk
Связанная статья
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства
Соблюдение требований к автономным транспортным средствам в Калифорнии: новая эра штрафов, геозоны и 1 млн миль
Компания Guident эксплуатирует шаттл AuveTech в Южной Флориде, обслуживая маршрут протяженностью четыре мили в Вест-Палм-Бич и маршрут протяженностью одну милю в Бока-Ратоне с использованием своей тех
Рекомендации по связанным специальным темам
Комментарии (0)
В преддверии «Золотой недели» в честь Первомая команда Tencent Huan Yuan выпустила ультра-квантованную версию своей профессиональной большой модели машинного перевода, предлагая надежное языковое решение для путешественников, отправляющихся за границу. Модель под названием Hy-MT1.5-1.8B-1.25bit занимает всего 440 МБ и эффективно работает на мобильных устройствах в автономном режиме.

Технология ультра-сжатия позволяет использовать модель в автономном режиме на мобильных устройствах
Модель использует передовую квантование для сжатия своего исходного размера с более чем 3 ГБ до всего одной восьмой, что позволяет ей плавно работать в фоновом режиме на стандартных смартфонах. Даже в отдаленных живописных местах без сетевого сигнала или во время внезапных чрезвычайных ситуаций пользователи по-прежнему могут получать мгновенные высококачественные переводы.
Команда предлагает два варианта квантования: 2-битный и 1,25-битный. В 1,25-битной версии используется стратегия тонкозернистой разреженности, одобренная на ведущей академической конференции, при которой три из каждых четырех параметров хранятся с использованием 1 бита, что обеспечивает высокую производительность перевода несмотря на компактный размер.

Качество перевода профессионального уровня с защитой конфиденциальности
Несмотря на небольшой размер, модель демонстрирует выдающуюся производительность при работе с 33 языками, пятью диалектами и тысячами направлений перевода. По результатам нескольких авторитетных тестов точность перевода превосходит показатели Google Translate и сопоставима с коммерческими моделями, имеющими гораздо больше параметров.
Поскольку вся обработка перевода происходит полностью на устройстве, пользователям не нужно беспокоиться о сборе или загрузке личных конфиденциальных данных, что значительно повышает уровень конфиденциальности и безопасности. Проект теперь полностью открыт и включает в себя демонстрационное приложение, позволяющее пользователям Android опробовать такие функции, как поиск слов в фоновом режиме, без абонентской платы.
Попробуйте демо-версию:
Hugging Face (для пользователей за рубежом): https://huggingface.co/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/main/Hy-MT-demo.apk
Сообщество ModelScope (для пользователей в Китае): https://modelscope.cn/models/AngelSlim/Hy-MT1.5-1.8B-1.25bit-GGUF/resolve/master/Hy-MT-demo.apk
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства











