オプション
家
ニュース
ByteDanceとHKUSTは、長文書LMMトレーニングを強化するMMProLongを発表しました

ByteDanceとHKUSTは、長文書LMMトレーニングを強化するMMProLongを発表しました

2026年10月3日
5

ByteDanceとHKUSTは、長文書LMMトレーニングを強化するMMProLongを発表しました

5月24日、ByteDance Seedチームは香港科技大学と提携し、マルチモーダル大規模言語モデル(LMM)における長文書トレーニングの画期的な進歩を発表した。アリババのオープンソースQwen2.5-VLを活用し、チームはMMProLongという新モデルを開発し、処理効率の大幅な向上を実現した。この研究は、マルチモーダルモデルの従来の長文トレーニング方法に挑戦し、戦略的なデータ整理が長文コンテキスト能力の向上においていかに重要かを示している。

LMMトレーニングにおける主要な課題に対処する際、本研究は、特定のタスクに最適化された質問応答(QA)トレーニングが、従来の光学文字認識(OCR)文字起こしよりもはるかに効果的であることを明らかにした。テキスト文字起こしのみを頼りにすると、長文コンテキストにおけるコンテンツ検索の改善にはつながらず、むしろパフォーマンスが低下する場合があるが、ByteDance Seed2.0のような独立したモデルによって生成された長文コンテキストのQAペアでトレーニングを行うことで、モデルは長く紛らわしい情報の中から対象の段落を正確に見つけることができる。

最適化された戦略とわずか128,000トークンという控えめなトレーニング予算で、MMProLongは堅牢な長文安定性を維持し、入力長が256,000または512,000トークンに達しても効果的に機能する。これは、MMLongBenchおよびMM-NIAH(Haystackの中の針)ベンチマークにおいて、InternVL3-38BやGemma3-27Bなどのより大きなオープンソースモデルを上回る結果である。さらに、MMProLongのマルチモーダル能力は、特定のトレーニングなしに長動画理解タスクにも拡張され、この戦略はQwen3-VL-8Bモデルでも検証されている。

本研究は、DeepSeekのような、高度に圧縮され再順序付けられた視覚データを通じてアーキテクチャのアップグレードに焦点を当てるアプローチとは対照的に、大規模モデル業界への代替的な開発パスを提供する。これは、基盤となるアーキテクチャを変更するのではなく、トレーニングデータの構造を最適化することで長文コンテキスト能力を大幅に強化できることを示しており、将来のマルチモーダルシステムやマルチステップエージェントのためのより費用対効果が高く効率的な技術ソリューションへの道を開くものである。

関連記事
もう一つの顧客である struggling startup Delve が、大規模なセキュリティ侵害を受けた もう一つの顧客である struggling startup Delve が、大規模なセキュリティ侵害を受けた コンプライアンス分野のスタートアップであるDelveは、一連のエスカレートする論争に引き続き直面している。TechCrunchは、最近、著名なアプリおよびウェブサイトホスティングプラットフォームであるVercelにおいてデータ漏洩を引き起こすセキュリティインシデが発生したAIエージェント訓練企業Context AIのセキュリティ認証をDelveが実施したことを確認した。一方、独自のセキュリティインシデを経験したLovableは、もはやDelveのサービスを利用していない。要約すると:先月、
Google、Gemini 3.8 Flash TTSを発表、自然な音声のカスタマイズと30秒での複製を可能に Google、Gemini 3.8 Flash TTSを発表、自然な音声のカスタマイズと30秒での複製を可能に 音声合成は精度の新たな高みに達しつつある。9月23日、Googleは、開発者やクリエイターがパーソナライズされた声優演技や大規模な音声制作に対して有する多様なニーズに応えるために設計された、2つの高度なテキスト読み上げモデル——Gemini 3.8 Flash TTS および Gemini 3.8 Flash-Lite TTS——を発表した。各モデルは明確な目的を担っている。Gemini 3.8 Flash TTS は声とキャラクターの設計に特化しており、自然言語のプロンプトを使用してカスタム
MiniMax Code 2.0 デスクトップ版リリース:長時間タスクのフリーズが解消、今月中にリモート操作とブラウザ乗っ取り機能を搭載 MiniMax Code 2.0 デスクトップ版リリース:長時間タスクのフリーズが解消、今月中にリモート操作とブラウザ乗っ取り機能を搭載 長期のコーディングタスクに取り組む開発者は、エージェントが突然コンテキストを失ったり応答なしでフリーズしたりする挫折に頻繁に直面しており、その結果、労力の無駄遣いや手動でのクリーンアップが必要になることがよくあります。7月16日、MiniMaxはこれらの課題に対応するため、MiniMax Code 2.0のデスクトップ版を正式に公開し、ダウンロードを開始しました。このアップデートは、長期タスク実行における3つの重要な課題——待機、中断、コンテキストの連続性——を対象としています。基盤システムの
関連特集おすすめ
学術研究 最高のAI学習発見ツール:ジャーナル、データセット、トレンドをすばやく見つける
最高のAI学習発見ツール:ジャーナル、データセット、トレンドをすばやく見つける

2026年最新版・最高評価のAI学習・発見ツールのリストがXIX.AIにて公開されています!この厳選リストには、ジャーナル、データセット、業界動向への迅速なアクセスを可能にする革新的なリソースが含まれています。無料版と有料版の比較、実際のテスト結果、毎週更新されるランキングも提供しています。必須のオプションは研究効率を向上させ、AIによる優位性を引き出すのに役立ちます。今すぐ探索して、あなたに最適なツールを見つけましょう!

10 ツール
xix.ai
マーケティング ライフサイクル・マーケティング向けAIメールキャンペーンツール
ライフサイクル・マーケティング向けAIメールキャンペーンツール

2026年版 ライフサイクルマーケティングに最適な、高評価のAIメールキャンペーンツール!XIX.AIは、文章作成の効率を高め、ターゲットを的確に絞ったコンテンツの作成を支援し、マーケティングワークフロー全体を効率化する、画期的で強力な「必試」ソリューションを厳選しました。 毎週更新されるランキング、実地テスト、無料版と有料版の比較情報を活用して、ニーズにぴったりのツールを見つけましょう。今すぐチェックして、AIの力を最大限に引き出しましょう!

11 ツール
xix.ai
ファイナンス AI投資リサーチツールのトップ選定:シグナルとポートフォリオのリスクを比較
AI投資リサーチツールのトップ選定:シグナルとポートフォリオのリスクを比較

2026年最新の、高評価を得た最高のAI投資リサーチツールがXIX.AIに登場!この厳選リストには、ポートフォリオのリスクを評価し、データに基づいたより賢明な意思決定を支援する、極めて正確なシグナルが掲載されています。当社は毎週実地テストを実施してランキングを更新しており、無料版と有料版の比較情報も提供しています。今すぐ、投資分析の効率を高める最適なツールを見つけましょう。 今すぐチェック!

10 ツール
xix.ai
チャットボット ウェブサイトのサポート向けAIカスタマーチャットボットツール
ウェブサイトのサポート向けAIカスタマーチャットボットツール

2026年最新の、ウェブサイトサポート向けAIカスタマーチャットボットツールの中でも最高評価のベストセレクションが、XIX.AIに登場!当サイトが厳選したこのリストには、応答速度の向上、顧客満足度の向上、そして膨大な手作業の削減を実現する、強力で画期的なソリューションが揃っています。各ツールは実環境での厳格なテストを経ており、無料版と有料版の比較詳細も掲載されています。 今すぐチェックして、オンラインサポートの効率を飛躍的に高める最適なツールを見つけましょう!

10 ツール
xix.ai
ソーシャルメディア ショップ、ダイレクトメッセージ、コミュニティ運営向けのInstagram AIコメント返信ツール
ショップ、ダイレクトメッセージ、コミュニティ運営向けのInstagram AIコメント返信ツール

2026年最新の最強Instagram AIコメント返信ツールが、店舗運営、ダイレクトメッセージ対応、コミュニティ管理に活躍!XIX.AIは、毎週更新されるランキングや無料版と有料版の比較、実際の使用テスト結果を掲載した、高評価を誇る優れたソリューション一覧をまとめています。これらの必見ツールは、返信作業を効率化し、時間を節約し、あらゆるソーシャルメディアプラットフォームにおける顧客エンゲージメントを高めることで、生産性を大幅に向上させてくれます。シームレスなコミュニティ管理のための最適なツールを見つけ出すには、今すぐチェックしてみましょう!

10 ツール
xix.ai
画像編集 ポートレート編集に最適なAI写真レタッチツール
ポートレート編集に最適なAI写真レタッチツール

2026年最新の、高評価を得ているポートレート編集用AI写真レタッチツールがXIX.AIに登場!この厳選リストには、クリエイターの作業効率を向上させ、創造力を最大限に引き出す、強力で画期的なソリューションが紹介されています。 私たちは実地テストを実施し、無料版と有料版の詳細な比較に加え、毎週更新されるランキングを提供することで、完璧なポートレート編集に欠かせない「必試」のツールを見つけられるようサポートします。今すぐチェックして、あなたにぴったりのツールを見つけましょう!

12 ツール
xix.ai
コメント (0)
0/500
OR