Hogar
El laboratorio Tongyi de Alibaba publica el código fuente de Fun-CineForge y resuelve el reto del doblaje con varios locutores
El doblaje de voz tradicional basado en IA suele quedarse corto en producciones de gran envergadura, como películas y animaciones, donde es fundamental captar los matices emocionales más sutiles y lograr una sincronización perfecta de los movimientos labiales. Para hacer frente a este reto fundamental del sector, Tongyi Lab ha lanzado oficialmente y ha puesto a disposición como código abierto el innovador modelo de doblaje multimodal y para múltiples escenarios con calidad cinematográfica: Fun-CineForge .
Salvar la brecha audiovisual: un marco de cuatro pilares para una sincronización perfecta
En lugar de basarse en la simple conversión de texto a voz, Fun-CineForge está diseñado para dominar cuatro dimensiones fundamentales del doblaje profesional:
Sincronización labial: garantiza que el habla sintetizada se alinee con los movimientos de la boca de los personajes en pantalla con una precisión excepcional.
Expresión emocional: infunde a la voz emociones auténticas y humanas mediante el análisis de las señales faciales y las instrucciones contextuales.
Consistencia vocal: mantiene una identidad vocal estable y reconocible para personajes específicos en escenas complejas de diálogo con múltiples interlocutores.
Alineación temporal: permite la inserción de diálogos con una precisión de milisegundos, incluso cuando el hablante está fuera de pantalla o parcialmente oculto.
Innovación fundamental: la pionera «modalidad temporal» y un conjunto de datos de alta fidelidad
El salto técnico de Fun-CineForge se deriva de su filosofía única de diseño conjunto de «datos + modelo»:

El conjunto de datos de alta calidad de CineDub: Tongyi Lab también ha abierto el código fuente del proceso automatizado de construcción del conjunto de datos de CineDub. Utilizando un mecanismo de corrección de errores de cadena de pensamiento, reduce las tasas de error de transcripción para textos en chino e inglés a aproximadamente un 1 % - 2 % y reduce los errores de diarización de hablantes hasta un 1,2 %.
Arquitectura de fusión de cuatro modalidades: El modelo es pionero en la integración de una «modalidad temporal», modelando conjuntamente entradas visuales (forma de los labios y expresión), texto (diálogo y contexto emocional) y audio (referencia de voz). Esta fusión permite una sincronización exacta en escenas complejas, incluidas aquellas en las que no se ven los rostros.
Excelencia demostrada: doblaje pionero de diálogos auténticos con múltiples personajes
Los resultados de las pruebas comparativas demuestran que Fun-CineForge supera sustancialmente a modelos de referencia como DeepDubber-V1 en métricas clave: tasa de error de palabras (WER/CER), sincronización labial (LSE-C/D) y similitud de voz. Un logro histórico es su capacidad, única en su género, para manejar con precisión diálogos a dúo y entre varias personas, mostrando una notable solidez en clips de vídeo de hasta 30 segundos.
GitHub: https://github.com/FunAudioLLM/FunCineForge
HuggingFace: https://huggingface.co/FunAudioLLM/Fun-CineForge
ModelScope: https://www.modelscope.cn/models/FunAudioLLM/Fun-CineForge/
Artículo relacionado
Google presenta Dreambeans, su herramienta de IA más excéntrica hasta la fecha, para convertir tu vida en una historieta
Google Labs, la división encargada del diseño de productos experimentales, ha lanzado una nueva aplicación basada en inteligencia artificial para iOS y Android que da vida a tu día a día.Te presentamo
La crítica de Ultraman sobre la universidad desata un debate sobre cómo redefinir el crecimiento y las carreras profesionales en la era de la inteligencia artificial
En una época caracterizada por los rápidos avances en inteligencia artificial, la educación tradicional y la planificación profesional se enfrentan a retos sin precedentes. El director ejecutivo de Op
Ctrip Business Travel presenta un ecosistema de inteligencia artificial con 7 agentes del sector y 17 capacidades principales
Ctrip Business Travel ha presentado oficialmente el «Ecosistema de IA de Ctrip Business Travel», que aprovecha los modelos de lenguaje a gran escala para reestructurar de forma radical la gestión de l
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
El doblaje de voz tradicional basado en IA suele quedarse corto en producciones de gran envergadura, como películas y animaciones, donde es fundamental captar los matices emocionales más sutiles y lograr una sincronización perfecta de los movimientos labiales. Para hacer frente a este reto fundamental del sector, Tongyi Lab ha lanzado oficialmente y ha puesto a disposición como código abierto el innovador modelo de doblaje multimodal y para múltiples escenarios con calidad cinematográfica:
Salvar la brecha audiovisual: un marco de cuatro pilares para una sincronización perfecta
En lugar de basarse en la simple conversión de texto a voz, Fun-CineForge está diseñado para dominar cuatro dimensiones fundamentales del doblaje profesional:
Sincronización labial: garantiza que el habla sintetizada se alinee con los movimientos de la boca de los personajes en pantalla con una precisión excepcional.
Expresión emocional: infunde a la voz emociones auténticas y humanas mediante el análisis de las señales faciales y las instrucciones contextuales.
Consistencia vocal: mantiene una identidad vocal estable y reconocible para personajes específicos en escenas complejas de diálogo con múltiples interlocutores.
Alineación temporal: permite la inserción de diálogos con una precisión de milisegundos, incluso cuando el hablante está fuera de pantalla o parcialmente oculto.
Innovación fundamental: la pionera «modalidad temporal» y un conjunto de datos de alta fidelidad
El salto técnico de Fun-CineForge se deriva de su filosofía única de diseño conjunto de «datos + modelo»:

El conjunto de datos de alta calidad de CineDub: Tongyi Lab también ha abierto el código fuente del proceso automatizado de construcción del conjunto de datos de CineDub. Utilizando un mecanismo de corrección de errores de cadena de pensamiento, reduce las tasas de error de transcripción para textos en chino e inglés a aproximadamente un 1 % - 2 % y reduce los errores de diarización de hablantes hasta un 1,2 %.
Arquitectura de fusión de cuatro modalidades: El modelo es pionero en la integración de una «modalidad temporal», modelando conjuntamente entradas visuales (forma de los labios y expresión), texto (diálogo y contexto emocional) y audio (referencia de voz). Esta fusión permite una sincronización exacta en escenas complejas, incluidas aquellas en las que no se ven los rostros.
Excelencia demostrada: doblaje pionero de diálogos auténticos con múltiples personajes
Los resultados de las pruebas comparativas demuestran que Fun-CineForge supera sustancialmente a modelos de referencia como DeepDubber-V1 en métricas clave: tasa de error de palabras (WER/CER), sincronización labial (LSE-C/D) y similitud de voz. Un logro histórico es su capacidad, única en su género, para manejar con precisión diálogos a dúo y entre varias personas, mostrando una notable solidez en clips de vídeo de hasta 30 segundos.
GitHub: https://github.com/FunAudioLLM/FunCineForge
HuggingFace: https://huggingface.co/FunAudioLLM/Fun-CineForge
ModelScope: https://www.modelscope.cn/models/FunAudioLLM/Fun-CineForge/
Google presenta Dreambeans, su herramienta de IA más excéntrica hasta la fecha, para convertir tu vida en una historieta
Google Labs, la división encargada del diseño de productos experimentales, ha lanzado una nueva aplicación basada en inteligencia artificial para iOS y Android que da vida a tu día a día.Te presentamo
La crítica de Ultraman sobre la universidad desata un debate sobre cómo redefinir el crecimiento y las carreras profesionales en la era de la inteligencia artificial
En una época caracterizada por los rápidos avances en inteligencia artificial, la educación tradicional y la planificación profesional se enfrentan a retos sin precedentes. El director ejecutivo de Op
Ctrip Business Travel presenta un ecosistema de inteligencia artificial con 7 agentes del sector y 17 capacidades principales
Ctrip Business Travel ha presentado oficialmente el «Ecosistema de IA de Ctrip Business Travel», que aprovecha los modelos de lenguaje a gran escala para reestructurar de forma radical la gestión de l











