샤오미의 오픈소스 TTS 모델 ‘OmniVoice’는 600개 이상의 언어에서 제로샷 복제를 지원한다
최근 샤오미의 차세대 Kaldi 팀(k2-fsa)은 600개 이상의 언어를 지원하는 대규모 다국어 제로샷 텍스트-투-스피치 모델인 ‘OmniVoice’를 공식적으로 오픈소스로 공개했습니다. 이 모델은 중국어, 영어 및 다국어 합성 분야의 여러 주요 벤치마크에서 최첨단 성능을 달성하며, 해당 분야에 획기적인 돌파구를 마련했습니다.
선도적인 성능: 중국어 WER 0.84% 달성, 다국어 테스트에서 주류 모델들 제치다
Seed-TTS 중국어 테스트 세트에서 OmniVoice는 0.84%라는 놀라울 정도로 낮은 단어 오류율(WER)을 기록했습니다. 다국어 평가에서는 유사도(SIM-o) 및 WER 점수가 ElevenLabs v2, MiniMax와 같은 유명 상용 모델들을 능가하며, 탁월한 음성 자연도와 명료성을 입증했습니다.

초고속 추론: RTF 0.025초로, 실시간보다 40배 빠름
OmniVoice는 0.025에 불과한 실시간 계수(RTF)를 자랑하며, 이는 합성 속도가 실시간 요구 사항을 훨씬 뛰어넘는다는 것을 의미합니다. 이러한 획기적인 효율성 향상으로 실제 응용 분야에서 긴 형식의 음성을 신속하게 생성할 수 있어 사용자 경험을 크게 향상시킵니다.
핵심 아키텍처 혁신: 확산 모델에서 영감을 받은 이산 비자기회귀 설계
OmniVoice는 확산 언어 모델에서 영감을 받은 새로운 이산 비자율 회귀 아키텍처를 채택했습니다. 이 모델은 기존의 중간 의미 토큰 단계를 생략하고 단일 단계에서 텍스트를 음성으로 직접 생성합니다. 이러한 간소화된 설계는 높은 출력 품질을 유지하면서도 파이프라인을 단순화합니다. 사전 훈련된 LLM 초기화와 결합된 전체 코드북 무작위 마스킹 전략은 훈련 효율을 더욱 높이고 최종 음성의 명료성과 이해도를 향상시킵니다.
유연한 음성 복제 및 맞춤 설정: 단 3~10초의 오디오만으로 작동
이 모델은 단 3~10초 분량의 참조 오디오만으로도 고품질의 제로샷 음성 복제를 지원합니다. 또한 사용자는 자연어 프롬프트를 통해 성별, 연령, 음높이, 억양, 방언은 물론 속삭임과 같은 특수 효과까지 지정하여 음성 속성을 맞춤 설정할 수 있습니다.
비언어적 기호 처리 및 세밀한 발음 제어
OmniVoice는 [웃음]과 같은 비언어적 기호를 처리할 수 있으며, 병음이나 발음 기호를 통한 발음 교정을 지원합니다. 이로 인해 중국어 및 다양한 방언의 정밀한 합성에 특히 적합합니다.
600개 이상의 언어 지원: 소수 언어 및 멸종 위기 언어의 디지털 보존 지원
OmniVoice의 주요 특징은 광범위한 언어 지원으로, 주요 언어와 수많은 저자원 언어를 모두 효율적으로 지원합니다. 소수 언어 및 멸종 위기 언어의 경우, 최소한의 데이터 샘플로도 고품질 음성을 생성할 수 있어 디지털 언어 보존 및 문화 보호에 큰 잠재력을 제공합니다.
OmniVoice의 소스 코드와 사전 훈련된 모델은 현재 GitHub 및 Hugging Face에 오픈소스로 공개되어 있어, 개발자들이 로컬에 배포하거나 애플리케이션에 통합할 수 있습니다. AIbase는 커뮤니티의 피드백과 실제 사용 사례를 지속적으로 모니터링할 예정입니다. 개발자 여러분의 경험 공유를 환영합니다.
프로젝트 링크: https://github.com/k2-fsa/OmniVoice
관련 기사
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다
Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁
최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의
캘리포니아 자율주행차 규정 준수: 과태료, 지오펜스, 100만 마일의 새로운 시대
Guident는 남부 플로리다에서 AuveTech 셔틀을 운영하며, 자사의 원격 모니터링 기술을 활용해 웨스트 팜비치에서 4마일 구간과 보카 라톤에서 1마일 구간의 노선을 관리하고 있다. | 출처: Guident캘리포니아주는 자율주행차에 대한 규제 환경을 재정의하며, 기술 업계의 “빠르게 움직이고 실패를 감수하라(move fast and break thin
관련 특별 주제 추천
의견 (0)
0/500
최근 샤오미의 차세대 Kaldi 팀(k2-fsa)은 600개 이상의 언어를 지원하는 대규모 다국어 제로샷 텍스트-투-스피치 모델인 ‘OmniVoice’를 공식적으로 오픈소스로 공개했습니다. 이 모델은 중국어, 영어 및 다국어 합성 분야의 여러 주요 벤치마크에서 최첨단 성능을 달성하며, 해당 분야에 획기적인 돌파구를 마련했습니다.
선도적인 성능: 중국어 WER 0.84% 달성, 다국어 테스트에서 주류 모델들 제치다
Seed-TTS 중국어 테스트 세트에서 OmniVoice는 0.84%라는 놀라울 정도로 낮은 단어 오류율(WER)을 기록했습니다. 다국어 평가에서는 유사도(SIM-o) 및 WER 점수가 ElevenLabs v2, MiniMax와 같은 유명 상용 모델들을 능가하며, 탁월한 음성 자연도와 명료성을 입증했습니다.

초고속 추론: RTF 0.025초로, 실시간보다 40배 빠름
OmniVoice는 0.025에 불과한 실시간 계수(RTF)를 자랑하며, 이는 합성 속도가 실시간 요구 사항을 훨씬 뛰어넘는다는 것을 의미합니다. 이러한 획기적인 효율성 향상으로 실제 응용 분야에서 긴 형식의 음성을 신속하게 생성할 수 있어 사용자 경험을 크게 향상시킵니다.
핵심 아키텍처 혁신: 확산 모델에서 영감을 받은 이산 비자기회귀 설계
OmniVoice는 확산 언어 모델에서 영감을 받은 새로운 이산 비자율 회귀 아키텍처를 채택했습니다. 이 모델은 기존의 중간 의미 토큰 단계를 생략하고 단일 단계에서 텍스트를 음성으로 직접 생성합니다. 이러한 간소화된 설계는 높은 출력 품질을 유지하면서도 파이프라인을 단순화합니다. 사전 훈련된 LLM 초기화와 결합된 전체 코드북 무작위 마스킹 전략은 훈련 효율을 더욱 높이고 최종 음성의 명료성과 이해도를 향상시킵니다.
유연한 음성 복제 및 맞춤 설정: 단 3~10초의 오디오만으로 작동
이 모델은 단 3~10초 분량의 참조 오디오만으로도 고품질의 제로샷 음성 복제를 지원합니다. 또한 사용자는 자연어 프롬프트를 통해 성별, 연령, 음높이, 억양, 방언은 물론 속삭임과 같은 특수 효과까지 지정하여 음성 속성을 맞춤 설정할 수 있습니다.
비언어적 기호 처리 및 세밀한 발음 제어
OmniVoice는 [웃음]과 같은 비언어적 기호를 처리할 수 있으며, 병음이나 발음 기호를 통한 발음 교정을 지원합니다. 이로 인해 중국어 및 다양한 방언의 정밀한 합성에 특히 적합합니다.
600개 이상의 언어 지원: 소수 언어 및 멸종 위기 언어의 디지털 보존 지원
OmniVoice의 주요 특징은 광범위한 언어 지원으로, 주요 언어와 수많은 저자원 언어를 모두 효율적으로 지원합니다. 소수 언어 및 멸종 위기 언어의 경우, 최소한의 데이터 샘플로도 고품질 음성을 생성할 수 있어 디지털 언어 보존 및 문화 보호에 큰 잠재력을 제공합니다.
OmniVoice의 소스 코드와 사전 훈련된 모델은 현재 GitHub 및 Hugging Face에 오픈소스로 공개되어 있어, 개발자들이 로컬에 배포하거나 애플리케이션에 통합할 수 있습니다. AIbase는 커뮤니티의 피드백과 실제 사용 사례를 지속적으로 모니터링할 예정입니다. 개발자 여러분의 경험 공유를 환영합니다.
프로젝트 링크: https://github.com/k2-fsa/OmniVoice
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다
Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁
최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의





집






