вариант
Дом
Новости
Модель TTS с открытым исходным кодом OmniVoice от Xiaomi позволяет осуществлять клонирование без предварительного обучения на более чем 600 языках

Модель TTS с открытым исходным кодом OmniVoice от Xiaomi позволяет осуществлять клонирование без предварительного обучения на более чем 600 языках

8 мая 2026 г.
327

Недавно команда Kaldi нового поколения (k2-fsa) из компании Xiaomi официально открыла исходный код OmniVoice — масштабной многоязычной модели преобразования текста в речь без предварительного обучения, поддерживающей более 600 языков. Модель демонстрирует передовые результаты по нескольким ключевым тестам для синтеза речи на китайском, английском и в многоязычном режиме, что стало значительным прорывом в этой области.

Лидирующая производительность: WER для китайского языка составляет всего 0,84%, что превосходит показатели основных моделей в многоязычных тестах

На тестовом наборе Seed-TTS для китайского языка OmniVoice демонстрирует чрезвычайно низкий показатель ошибок на слова (WER) — всего 0,84%. В многоязычных оценках его показатели сходства (SIM-o) и WER превосходят известные коммерческие модели, такие как ElevenLabs v2 и MiniMax, демонстрируя исключительную естественность и четкость речи.

image.png

Сверхбыстрая инференция: RTF всего 0,025, что в 40 раз быстрее, чем в реальном времени

OmniVoice может похвастаться коэффициентом реального времени (RTF) всего 0,025, что означает, что его скорость синтеза намного превышает требования реального времени. Этот огромный прирост эффективности позволяет быстро генерировать длинные речевые фрагменты в практических приложениях, что значительно улучшает пользовательский опыт.

Инновационная архитектура: дискретная неавторегрессивная конструкция, вдохновленная диффузионными моделями

OmniVoice использует новую дискретную неавторегрессивную архитектуру, вдохновленную диффузионными языковыми моделями. Она генерирует речь из текста за один шаг, минуя традиционные промежуточные семантические токены. Эта оптимизированная конструкция упрощает конвейер, сохраняя при этом высокое качество вывода. Стратегия полного случайного маскирования кодовой книги в сочетании с инициализацией предварительно обученной LLM еще больше повышает эффективность обучения и улучшает четкость и разборчивость конечной речи.

Гибкое клонирование и настройка голоса: работает всего с 3–10 секундами аудио

Модель поддерживает высококачественное клонирование голоса без предварительного обучения, используя всего 3–10 секунд эталонного аудио. Пользователи также могут настраивать атрибуты голоса с помощью подсказок на естественном языке, указывая пол, возраст, высоту тона, акцент, диалект и даже специальные эффекты, такие как шепот.

Обработка нелингвистических символов и тонкое управление произношением

OmniVoice может обрабатывать нелингвистические символы, такие как [смех], и поддерживает коррекцию произношения с помощью пиньинь или фонетических символов. Это делает его особенно подходящим для точного синтеза на китайском языке и различных диалектах.

Поддержка более 600 языков: содействие цифровому сохранению языков меньшинств и исчезающих языков

Одной из ключевых особенностей OmniVoice является обширный языковой охват, обеспечивающий эффективную поддержку как основных, так и многочисленных языков с ограниченными ресурсами. Для языков меньшинств и исчезающих языков система может генерировать высококачественную речь с минимальным количеством данных, что открывает значительный потенциал для цифрового сохранения языков и защиты культуры.

Код OmniVoice и предварительно обученные модели теперь доступны в открытом доступе на GitHub и Hugging Face, что позволяет разработчикам развертывать их локально или интегрировать в приложения. AIbase будет продолжать отслеживать отзывы сообщества и реальные примеры использования. Разработчикам рекомендуется делиться своим опытом.

Ссылка на проект: https://github.com/k2-fsa/OmniVoice

Связанная статья
Wan-Streamer v0.2 обеспечивает сверхнизкую задержку ИИ-чата Wan-Streamer v0.2 обеспечивает сверхнизкую задержку ИИ-чата По мере стремительного развития современных технологий взаимодействие человека с искусственным интеллектом становится всё более распространённым. Традиционные видеозвонки часто страдают от задержек, лагов и рассинхронизации аудио- и видеоданных. Wan-
Meta присоединяется к TSMC и Micron для оснащения новых серверов старой памятью Meta присоединяется к TSMC и Micron для оснащения новых серверов старой памятью По мере ускорения внедрения искусственного интеллекта во всем мире наблюдается острый дефицит памяти следующего поколения DDR5. Чтобы избежать задержек в развертывании центров обработки данных для ИИ, Meta заключила партнерство с ведущими отраслевыми
Как базы данных временных рядов обеспечивают обработку данных робототехники в реальном времени Как базы данных временных рядов обеспечивают обработку данных робототехники в реальном времени Дуг Паджутти из Tiger Data.Паджутти работает в качестве промышленного разработчика-адвоката в Tiger Data, поддерживая команды в создании реальных промышленных систем.Имея более 12 лет опыта в нефтегазовой отрасли и автоматизации производства, он рабо
Рекомендации по связанным специальным темам
Дизайн и искусство Лучшие инструменты для создания иллюстраций с помощью ИИ: быстрее создавайте редакционные сцены и обложки
Лучшие инструменты для создания иллюстраций с помощью ИИ: быстрее создавайте редакционные сцены и обложки

2026: Новейшие и самые популярные инструменты для создания иллюстраций с помощью ИИ: в нашем тщательно подобранном списке представлены лучшие инструменты с мощными функциональными возможностями, позволяющие быстро создавать потрясающие редакционные сцены и привлекательные обложки. Каждый вариант прошел тщательные практические испытания; мы предлагаем сравнение бесплатных и платных версий, чтобы помочь вам найти идеальный вариант для вашего рабочего процесса. Попробуйте эти незаменимые решения уже сегодня, чтобы раскрыть потенциал искусственного интеллекта и повысить свою творческую продуктивность. Узнайте больше на сайте XIX.AI.

10 инструментов
xix.ai
Образование и обучение Лучшие репетиторы по искусственному интеллекту для подготовки к экзаменам: практикуйтесь по математике, естественным наукам и английскому языку
Лучшие репетиторы по искусственному интеллекту для подготовки к экзаменам: практикуйтесь по математике, естественным наукам и английскому языку

2026 года: лучшие и самые популярные ИИ-репетиторы для подготовки к экзаменам представлены на XIX.AI! В нашем тщательно подобранном списке представлены мощные инструменты, которые кардинально изменят ваш подход к обучению: здесь вы найдете сравнение бесплатных и платных версий, тесты на практике и еженедельно обновляемые рейтинги. Они помогут повысить эффективность вашего письма, упростить изучение сложных тем и раскрыть ваш академический потенциал. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент для подготовки к экзаменам, и начните творить уже сегодня, чтобы раскрыть свои преимущества благодаря ИИ!

10 инструментов
xix.ai
Финансы Инструменты планирования бюджета на основе ИИ для управления личными финансами
Инструменты планирования бюджета на основе ИИ для управления личными финансами

В 2026 году на XIX.AI представлены новейшие, лучшие и наиболее рейтинговые инструменты ИИ для бюджетного планирования по личным финансам! Эта тщательно отобранная коллекция включает мощные, революционные решения, которые помогают проводить реальные тесты, понимать привычки расходов и создавать персонализированные планы для повышения продуктивности. Наслаждайтесь бесплатным сравнением с платными версиями вместе с подробными рейтингами. Инструменты, которые обязательно стоит попробовать, разработаны для упрощения управления деньгами и раскрытия вашего преимущества ИИ. Исследуйте сейчас!

11 инструментов
xix.ai
Здоровье и благополучие Помощники для отслеживания сна с ИИ: улучшите восстановление за счёт более правильных привычек перед сном
Помощники для отслеживания сна с ИИ: улучшите восстановление за счёт более правильных привычек перед сном

2026 год: лучшие и наиболее высоко оценённые помощники для отслеживания сна на основе ИИ, отобранные для максимального восстановления организма. В этом полностью обновлённом еженедельном руководстве представлены мощные инструменты с результатами реальных тестов, сравнением бесплатных и платных версий, а также подробными рейтингами, которые помогут вам найти оптимальное решение для улучшения качества сна и формирования лучших привычек перед сном. Ознакомьтесь с ним прямо сейчас на сайте XIX.AI, чтобы раскрыть потенциал ИИ в вашей жизни.

10 инструментов
xix.ai
Анализ данных AI-копилоты SQL для аналитики продуктов и выручки
AI-копилоты SQL для аналитики продуктов и выручки

2026: лучшие и самые популярные ИИ-помощники для работы с SQL в сфере аналитики продуктов и доходов! XIX.AI подготовила мощную, революционную подборку инструментов, которые обязательно стоит попробовать. Они проходят проверку в реальных условиях и включаются в еженедельно обновляемый рейтинг. Эти инструменты помогают пользователям значительно повысить продуктивность за счет ускорения анализа данных, оптимизации сложных запросов и получения точных аналитических выводов, которые позволяют принимать более обоснованные бизнес-решения. Ознакомьтесь с ними прямо сейчас, чтобы найти идеальный инструмент, который поможет вам раскрыть весь потенциал искусственного интеллекта!

14 инструментов
xix.ai
Образование и обучение Лучшие помощники по домашним заданиям с ИИ, которые учат: изучайте концепции, а не просто ответы
Лучшие помощники по домашним заданиям с ИИ, которые учат: изучайте концепции, а не просто ответы

2026: лучшие и самые популярные помощники по домашним заданиям с ИИ, которые обучают основным концепциям, а не просто дают готовые ответы. Мощные инструменты для студентов. Обязательный к пробованию тщательно отобранный список. Еженедельное обновление. Сравнение бесплатных и платных версий. Тестирование в реальных условиях. Точные рейтинги, которые помогут вам раскрыть весь свой учебный потенциал. Исследуйте сейчас, чтобы найти идеальный инструмент для более эффективного обучения.

10 инструментов
xix.ai
Комментарии (0)
0/500
OR