選項
首頁
新聞
騰訊推出 OpenSearch-VL:開源多模態深度搜尋代理程式

騰訊推出 OpenSearch-VL:開源多模態深度搜尋代理程式

2026-06-23
82

隨著多模態大型語言模型(MLLM)的快速發展,人工智慧競賽中的關鍵挑戰正從單純的「被動理解圖像」轉變為主動尋找證據並進行推理。 然而,由於缺乏高品質的訓練資料、自動化的軌跡合成管線以及詳盡的訓練指南,開源社群難以複製頂尖的多模態搜尋代理程式。

為突破此瓶頸,騰訊混元的研究團隊攜手加州大學洛杉磯分校(UCLA)及香港中文大學,共同推出OpenSearch-VL。這份完全開源的藍圖,為透過強化學習(RL)建構最先進的深度搜尋代理提供了具體路徑。

OpenSearch-VL 架構圖

創新資料處理流程突破搜尋瓶頸

研究團隊指出,高品質的訓練資料是模型進化的主要瓶頸。為了訓練模型進行多步驟推理——超越單純的「一鍵式」圖像識別——他們設計了一套縝密的数据整合流程。

該管道從維基百科的超連結圖中採樣路徑,將複雜的實體關係轉化為多跳問答對。為防止「捷徑學習」,研究人員採用模糊實體重寫技術來隱藏直接答案,並整合了以原始碼為錨點的視覺定位機制。 此方法迫使模型必須先偵測視覺訊號,再透過外部工具迭代式地檢索資訊,從而防止在檢索過程中發生能力退化。 最終,研究團隊建構了 SearchVL-SFT 資料庫(36,000 條指令微調軌跡)與 SearchVL-RL 資料庫(8,000 條強化學習軌跡)。

超越簡單搜尋的多功能工具集

OpenSearch-VL 超越了基本的文字搜尋。在實際應用中,使用者提供的圖片往往模糊、變形或解析度過低,導致傳統搜尋工具難以發揮作用。

為解決此問題,本專案整合了一套豐富的工具:網頁搜尋、反向圖像搜尋、OCR、圖像裁切、銳化、超解析度及透視校正。該代理程式會像人類一樣,在查詢外部知識之前主動感知並修正不完美的視覺內容,以確保後續搜尋的可靠性。

具備故障感知能力的演算法,實現從錯誤中學習

在長時程任務中,工具調用可能引發連鎖故障。單一超時或錯誤就可能導致整個任務脫軌。傳統的強化學習(RL)通常會捨棄這些失敗的軌跡,從而浪費訓練資源。

OpenSearch-VL 引入了「多輪故障感知 GRPOMulti-round Fault-Aware GRPO)」訓練演算法,該演算法能識別工具調用中的關鍵故障點。它利用遮罩技術過濾掉故障後無效的資訊,並採用單側優勢裁剪,以保留早期步驟中有用的邏輯。 如此一來,即使最終結果以失敗告終,模型仍能從先前階段學習到有效的搜尋路徑與探索策略。

實驗結果可與商業專有模型媲美

評估結果顯示,該模型在七項主流多模態深度搜尋基準測試中均展現出強勁表現,平均提升幅度超過 10 個百分點。在某些特定任務上,OpenSearch-VL 已能媲美頂尖的閉源商用模型。

研究團隊計畫將 OpenSearch-VL 的所有訓練資料、程式碼及模型權重全面開源,為全球開發者提供一個可重現且可改進的基礎,將多模態代理人的研究推向更深層的領域。

論文:https://arxiv.org/pdf/2605.05185

相關文章
內部細節曝光:下一代 Gemini 算力緊張,內部團隊在開發優先順序和資源分配上存在分歧 內部細節曝光:下一代 Gemini 算力緊張,內部團隊在開發優先順序和資源分配上存在分歧 報告顯示,谷歌備受期待的下一代 Gemini 模型釋出已被推遲。由於內部在開發優先順序和資源分配上存在分歧,加上計算能力有限以及複雜的審批流程,導致釋出時間延後了兩個月。儘管谷歌擁有定製的 TPU 晶片,但由於模型訓練、Google Cloud 服務以及眾多消費和企業級 AI 應用對計算資源的需求相互競爭,谷歌仍面臨計算資源短缺的問題。目前,高層管理人員正透過組織結構調整來解決這些部門間的衝突。與此同時,領導層也發生了變化,聯合創始人謝爾蓋·布林越來越多地參與到核心模型訓練中,並倡導將資源專門用於
OpenAI 否認增長放緩擔憂,稱多個業務部門加速發展 OpenAI 否認增長放緩擔憂,稱多個業務部門加速發展 針對外界對其銷售增長放緩及未達內部基準的質疑,人工智慧領域的領軍企業 OpenAI 於 4 月 28 日(星期二)發表了一份信心十足的宣告。該公司澄清稱,其消費產品和企業服務正在快速推進,直接駁斥了近期關於業務放緩的猜測。針對該公司“未達成多項內部目標”的說法,OpenAI 將這些報道斥為“典型的標題黨”。公司強調了企業對 AI 整合的強勁需求,並指出其廣告業務早期增長前景良好。據 OpenAI 內部人士透露,公司內部情緒依然樂觀。儘管市場競爭日益激烈,但公司正在向投資者傳遞信心,聲稱其商業
阿里巴巴超級盃:Qwen3.8-Max 重磅登場,程式碼與辦公工具能力全面升級 阿里巴巴超級盃:Qwen3.8-Max 重磅登場,程式碼與辦公工具能力全面升級 阿里巴巴正式釋出了Qwen3.8-Max,這是一款擁有2.4萬億引數的下一代基礎大模型。這一重大AI進展在編碼和專業辦公任務等核心領域帶來了顯著的效能提升,展現了強大的技術能力。在權威的Arena大模型排名中,Qwen3.8-Max取得了令人矚目的成績,僅次於Anthropic的Claude系列,位居行業前列。這一里程碑標誌著國內大模型在處理複雜任務方面取得了快速進展,為開發者和企業使用者提供了先進的智慧工具。該模型的API現已在Qwen AI平臺上上線,並整合到新推出的“Qwen Offic
相關專題推薦
音樂創作 最佳用於歌曲草稿的 AI 旋律創作工具
最佳用於歌曲草稿的 AI 旋律創作工具

2026 年最新最佳頂級評分 AI 旋律創作工具,助力歌曲草稿創作!XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集,旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項,這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿,並顯著提升您的創意生產力。立即探索,發現您的完美工具!

8 個工具
xix.ai
聊天機器人 最適合面試練習的 AI 對話訓練工具
最適合面試練習的 AI 對話訓練工具

2026 年最新、最受好評的 AI 面試對話訓練工具,盡在 XIX.AI!這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具,這些工具均經過嚴格的實戰測試,能提供精準的回饋。 您將在此找到免費版與付費版的比較分析,以及詳細的排名榜單,助您挑選必試的選項,從而提升自信與技能。立即探索,發掘助您在面試中脫穎而出的完美工具!

12 個工具
xix.ai
設計與藝術 最適合進行創意實驗的 AI 風格轉移工具
最適合進行創意實驗的 AI 風格轉移工具

2026 年最新、最佳且評價最高的 AI 風格轉移工具,助您進行創意實驗!XIX.AI 精心精選了一系列強大且具革命性的必試工具,這些工具經實際測試與嚴格評比,能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性,協助創作者顯著提升生產力。 立即探索,找出最適合您的工具,並從今天開始創作吧!

9 個工具
xix.ai
漫畫創作 最適合視覺敘事的 AI 對話氣泡工具
最適合視覺敘事的 AI 對話氣泡工具

2026 年最新、最受好評的視覺敘事 AI 對話氣泡工具,現已登陸 XIX.AI!這份精心挑選的合集收錄了強大且具顛覆性的工具,能協助創作者提升生產力並突破創作瓶頸。 查看免費版與付費版的比較、參考實際測試結果,並查閱最新排行榜,找出最適合打造引人入勝視覺敘事的必試解決方案。立即探索,發掘您的理想工具!

10 個工具
xix.ai
會議助理 頂尖 AI 會議摘要工具:清晰追蹤決策與後續行動
頂尖 AI 會議摘要工具:清晰追蹤決策與後續行動

2026 年最新高評價最佳 AI 會議摘要工具,助您清晰追蹤決策並輕鬆進行後續跟進。這份精選清單展示了一系列強大且具顛覆性的解決方案,透過自動化會議記錄、識別關鍵行動項目,以及簡化所有專案的團隊協作,大幅提升生產力。 獲取免費版與付費版的比較分析,搭配實際測試報告及每週更新的排行榜,助您找到最合適的工具。立即探索,釋放您的 AI 優勢!

9 個工具
xix.ai
數據分析 最佳人工智慧資料清洗工具:快速處理缺失值與重複資料
最佳人工智慧資料清洗工具:快速處理缺失值與重複資料

2026年最新、最優秀且評分最高的AI資料清洗工具,可快速處理缺失值與重複資料問題。這份精心挑選的清單展示了那些功能強大、能帶來顛覆性變革的解決方案,可顯著提升工作效率。所有候選工具都經過了嚴格的實際應用測試,以確保其穩定性。您可以獲取免費版與付費版的對比資訊,找出最符合您需求的必備工具。即刻訪問XIX.AI,開啟您的AI優勢之旅。

11 個工具
xix.ai
評論 (0)
0/500
OR