option
Maison
Nouvelles
ByteDance et HKUST dévoilent MMProLong pour améliorer l'entraînement des LMM sur les longs documents

ByteDance et HKUST dévoilent MMProLong pour améliorer l'entraînement des LMM sur les longs documents

3 octobre 2026
5

ByteDance et HKUST dévoilent MMProLong pour améliorer l

Le 24 mai, l’équipe ByteDance Seed a collaboré avec l’Université des sciences et technologies de Hong Kong pour dévoiler une avancée majeure dans l’entraînement de documents longs pour les grands modèles de langage multimodaux (LMM). En s’appuyant sur le modèle open-source Qwen2.5-VL d’Alibaba, l’équipe a développé un nouveau modèle nommé MMProLong, atteignant des gains significatifs en efficacité de traitement. Cette recherche remet en question les méthodes conventionnelles d’entraînement de textes longs pour les modèles multimodaux, soulignant comment une organisation stratégique des données est cruciale pour améliorer les capacités de contexte long.

En abordant les défis clés de l’entraînement des LMM, l’étude révèle que l’entraînement par questions-réponses (QA) adapté à des tâches spécifiques est bien plus efficace que la transcription par reconnaissance optique de caractères (OCR) traditionnelle. Bien que s’appuyer uniquement sur la transcription de texte ne permette pas d’améliorer la récupération de contenu dans des contextes longs – et puisse même dégrader les performances – l’entraînement avec des paires de questions-réponses de contexte long générées par un modèle indépendant tel que ByteDance Seed2.0 permet au modèle de localiser avec précision les paragraphes cibles au milieu d’informations longues et distractives.

Avec une stratégie optimisée et un budget d’entraînement modeste de seulement 128 000 tokens, MMProLong maintient une stabilité robuste des textes longs, performant efficacement même lorsque les longueurs d’entrée atteignent 256 000 ou 512 000 tokens. Il surpasse des modèles open-source plus grands tels que InternVL3-38B et Gemma3-27B sur les benchmarks MMLongBench et MM-NIAH (Needle-in-a-Haystack). De plus, les capacités multimodales de MMProLong s’étendent aux tâches de compréhension de vidéos longues sans entraînement spécifique, une stratégie également validée sur le modèle Qwen3-VL-8B.

Cette étude offre une voie de développement alternative pour l’industrie des grands modèles, contrastant avec des approches telles que celles de DeepSeek, qui se concentrent sur la mise à niveau des architectures par des données visuelles hautement compressées et réorganisées. Elle démontre que les capacités de contexte long peuvent être significativement améliorées par l’optimisation de la structure des données d’entraînement plutôt que par la modification de l’architecture sous-jacente, ouvrant la voie à des solutions techniques plus économiques et efficaces pour les futurs systèmes multimodaux et les agents multi-étapes.

Article connexe
Microsoft relance sa stratégie en matière d’intelligence artificielle avec un nouveau modèle de codage alors que les coûts de Claude augmentent Microsoft relance sa stratégie en matière d’intelligence artificielle avec un nouveau modèle de codage alors que les coûts de Claude augmentent La programmation assistée par l’IA est devenue un élément incontournable du développement logiciel moderne, mais même les géants de la technologie comme Microsoft ressentent le poids des abonnements coûteux aux grands modèles de langage tiers. Pour r
Un autre client de la startup en difficulté Delve, touchée par une importante violation de sécurité Un autre client de la startup en difficulté Delve, touchée par une importante violation de sécurité Le startup de conformité Delle continue de faire face à une série de controverses croissantes.TechCrunch a vérifié que Delle a réalisé les certifications de sécurité pour Context AI, une entreprise de formation d’agents IA qui a récemment signalé un
Google dévoile Gemini 3.8 Flash TTS, permettant une personnalisation naturelle de la voix et une réplication en 30 secondes Google dévoile Gemini 3.8 Flash TTS, permettant une personnalisation naturelle de la voix et une réplication en 30 secondes La synthèse vocale atteint de nouveaux sommets de précision. Le 23 septembre, Google a dévoilé deux modèles avancés de synthèse vocale à partir de texte — Gemini 3.8 Flash TTS et Gemini 3.8 Flash-Lite TTS — conçus pour répondre aux exigences variées
Recommandations de sujets spéciaux liés
Recherche académique Meilleurs outils d’IA pour la découverte de recherches : trouvez rapidement des revues, des ensembles de données et des tendances
Meilleurs outils d’IA pour la découverte de recherches : trouvez rapidement des revues, des ensembles de données et des tendances

Les derniers outils de découverte d’études par IA les mieux notés de 2026 sont disponibles sur XIX.AI ! Cette liste sélectionnée comprend des ressources puissantes et transformatrices pour un accès rapide aux revues, ensembles de données et tendances sectorielles. Obtenez une comparaison gratuite entre les versions gratuite et payante, accompagnée de tests concrets et de classements mis à jour chaque semaine. Les options incontournables aident à améliorer votre efficacité de recherche et à exploiter pleinement votre avantage grâce à l’IA. Explorez dès maintenant pour trouver l’outil qui vous convient parfaitement !

10 outils
xix.ai
Commercialisation Outils d'IA pour les campagnes par e-mail dans le cadre du marketing tout au long du cycle de vie
Outils d'IA pour les campagnes par e-mail dans le cadre du marketing tout au long du cycle de vie

Les meilleurs outils d'IA pour les campagnes d'e-mailing en 2026, les mieux notés pour le marketing de cycle de vie ! XIX.AI a sélectionné une gamme puissante et révolutionnaire de solutions incontournables qui améliorent l'efficacité de la rédaction, aident à créer du contenu hautement ciblé et rationalisent l'ensemble des workflows marketing. Profitez de classements mis à jour chaque semaine, de tests en conditions réelles et d'une comparaison entre les versions gratuites et payantes pour trouver l'outil parfaitement adapté à vos besoins. Découvrez-les dès maintenant pour tirer pleinement parti de l'IA !

11 outils
xix.ai
Finance Les meilleurs outils d'analyse d'investissement basés sur l'IA : comparez les signaux et les risques liés aux portefeuilles
Les meilleurs outils d'analyse d'investissement basés sur l'IA : comparez les signaux et les risques liés aux portefeuilles

Les meilleurs outils d'analyse d'investissement basés sur l'IA de 2026, les mieux notés, sont disponibles ici sur XIX.AI ! Cette sélection comprend des indicateurs d'une grande précision pour évaluer les risques de votre portefeuille et vous aider à prendre des décisions plus éclairées, fondées sur des données. Nous effectuons chaque semaine des tests en conditions réelles pour mettre à jour les classements et vous proposer une comparaison entre les versions gratuites et payantes. Découvrez dès aujourd'hui l'outil idéal pour optimiser l'efficacité de vos analyses d'investissement. Découvrez-les dès maintenant !

10 outils
xix.ai
chatbot Outils de chatbot client basés sur l'IA pour l'assistance en ligne
Outils de chatbot client basés sur l'IA pour l'assistance en ligne

Les meilleurs outils de chatbot IA pour le service client en ligne en 2026 sont disponibles ici, sur XIX.AI ! Notre sélection comprend des solutions puissantes et révolutionnaires qui accélèrent les temps de réponse, améliorent la satisfaction client et permettent d'économiser énormément de travail manuel. Chaque option est soumise à des tests rigoureux en conditions réelles, accompagnés d'une comparaison détaillée entre les versions gratuites et payantes. Découvrez-la dès maintenant pour trouver l'outil idéal qui optimisera l'efficacité de votre assistance en ligne !

10 outils
xix.ai
Réseaux sociaux Outils d’ réponse aux commentaires via l’IA d’ Instagram pour les boutiques, les messages privés et la gestion de communauté
Outils d’ réponse aux commentaires via l’IA d’ Instagram pour les boutiques, les messages privés et la gestion de communauté

Les meilleures outils d’IA 2026 pour répondre aux commentaires sur Instagram, destinés aux boutiques, aux messages privés et à la gestion de communauté ! XIX.AI a compilé une liste des solutions les plus performantes, mises à jour chaque semaine, avec des comparaisons entre versions gratuites et payantes ainsi que des tests en conditions réelles. Ces outils indispensables permettent d’améliorer considérablement la productivité en simplifiant les tâches de réponse, en gagnant du temps et en renforçant l’engagement des clients sur toutes les plateformes sociales. Découvrez-les dès maintenant pour trouver l’outil idéal pour une gestion de communauté fluide !

10 outils
xix.ai
Édition d'images Les meilleurs outils de retouche photo basés sur l'IA pour les portraits
Les meilleurs outils de retouche photo basés sur l'IA pour les portraits

Les meilleurs outils de retouche photo IA les mieux notés de 2026 pour la retouche de portraits sont disponibles ici, sur XIX.AI ! Cette sélection regroupe des solutions puissantes et révolutionnaires qui aident les créateurs à optimiser leur efficacité et à libérer tout leur potentiel créatif. Nous réalisons des tests en conditions réelles et proposons une comparaison détaillée entre les versions gratuites et payantes, ainsi qu'un classement mis à jour chaque semaine, afin de vous garantir de trouver l'outil incontournable pour des retouches de portraits impeccables. Explorez dès maintenant notre sélection pour découvrir le choix qui vous convient le mieux !

12 outils
xix.ai
commentaires (0)
0/500
OR