騰訊推出 OpenSearch-VL:開源多模態深度搜尋代理程式
隨著多模態大型語言模型(MLLM)的快速發展,人工智慧競賽中的關鍵挑戰正從單純的「被動理解圖像」轉變為主動尋找證據並進行推理。 然而,由於缺乏高品質的訓練資料、自動化的軌跡合成管線以及詳盡的訓練指南,開源社群難以複製頂尖的多模態搜尋代理程式。
為突破此瓶頸,騰訊混元的研究團隊攜手加州大學洛杉磯分校(UCLA)及香港中文大學,共同推出OpenSearch-VL。這份完全開源的藍圖,為透過強化學習(RL)建構最先進的深度搜尋代理提供了具體路徑。

創新資料處理流程突破搜尋瓶頸
研究團隊指出,高品質的訓練資料是模型進化的主要瓶頸。為了訓練模型進行多步驟推理——超越單純的「一鍵式」圖像識別——他們設計了一套縝密的数据整合流程。
該管道從維基百科的超連結圖中採樣路徑,將複雜的實體關係轉化為多跳問答對。為防止「捷徑學習」,研究人員採用模糊實體重寫技術來隱藏直接答案,並整合了以原始碼為錨點的視覺定位機制。 此方法迫使模型必須先偵測視覺訊號,再透過外部工具迭代式地檢索資訊,從而防止在檢索過程中發生能力退化。 最終,研究團隊建構了 SearchVL-SFT 資料庫(36,000 條指令微調軌跡)與 SearchVL-RL 資料庫(8,000 條強化學習軌跡)。
超越簡單搜尋的多功能工具集
OpenSearch-VL 超越了基本的文字搜尋。在實際應用中,使用者提供的圖片往往模糊、變形或解析度過低,導致傳統搜尋工具難以發揮作用。
為解決此問題,本專案整合了一套豐富的工具:網頁搜尋、反向圖像搜尋、OCR、圖像裁切、銳化、超解析度及透視校正。該代理程式會像人類一樣,在查詢外部知識之前主動感知並修正不完美的視覺內容,以確保後續搜尋的可靠性。
具備故障感知能力的演算法,實現從錯誤中學習
在長時程任務中,工具調用可能引發連鎖故障。單一超時或錯誤就可能導致整個任務脫軌。傳統的強化學習(RL)通常會捨棄這些失敗的軌跡,從而浪費訓練資源。
OpenSearch-VL 引入了「多輪故障感知 GRPO(Multi-round Fault-Aware GRPO)」訓練演算法,該演算法能識別工具調用中的關鍵故障點。它利用遮罩技術過濾掉故障後無效的資訊,並採用單側優勢裁剪,以保留早期步驟中有用的邏輯。 如此一來,即使最終結果以失敗告終,模型仍能從先前階段學習到有效的搜尋路徑與探索策略。
實驗結果可與商業專有模型媲美
評估結果顯示,該模型在七項主流多模態深度搜尋基準測試中均展現出強勁表現,平均提升幅度超過 10 個百分點。在某些特定任務上,OpenSearch-VL 已能媲美頂尖的閉源商用模型。
研究團隊計畫將 OpenSearch-VL 的所有訓練資料、程式碼及模型權重全面開源,為全球開發者提供一個可重現且可改進的基礎,將多模態代理人的研究推向更深層的領域。
相關文章
內部細節曝光:下一代 Gemini 算力緊張,內部團隊在開發優先順序和資源分配上存在分歧
報告顯示,谷歌備受期待的下一代 Gemini 模型釋出已被推遲。由於內部在開發優先順序和資源分配上存在分歧,加上計算能力有限以及複雜的審批流程,導致釋出時間延後了兩個月。儘管谷歌擁有定製的 TPU 晶片,但由於模型訓練、Google Cloud 服務以及眾多消費和企業級 AI 應用對計算資源的需求相互競爭,谷歌仍面臨計算資源短缺的問題。目前,高層管理人員正透過組織結構調整來解決這些部門間的衝突。與此同時,領導層也發生了變化,聯合創始人謝爾蓋·布林越來越多地參與到核心模型訓練中,並倡導將資源專門用於
OpenAI 否認增長放緩擔憂,稱多個業務部門加速發展
針對外界對其銷售增長放緩及未達內部基準的質疑,人工智慧領域的領軍企業 OpenAI 於 4 月 28 日(星期二)發表了一份信心十足的宣告。該公司澄清稱,其消費產品和企業服務正在快速推進,直接駁斥了近期關於業務放緩的猜測。針對該公司“未達成多項內部目標”的說法,OpenAI 將這些報道斥為“典型的標題黨”。公司強調了企業對 AI 整合的強勁需求,並指出其廣告業務早期增長前景良好。據 OpenAI 內部人士透露,公司內部情緒依然樂觀。儘管市場競爭日益激烈,但公司正在向投資者傳遞信心,聲稱其商業
阿里巴巴超級盃:Qwen3.8-Max 重磅登場,程式碼與辦公工具能力全面升級
阿里巴巴正式釋出了Qwen3.8-Max,這是一款擁有2.4萬億引數的下一代基礎大模型。這一重大AI進展在編碼和專業辦公任務等核心領域帶來了顯著的效能提升,展現了強大的技術能力。在權威的Arena大模型排名中,Qwen3.8-Max取得了令人矚目的成績,僅次於Anthropic的Claude系列,位居行業前列。這一里程碑標誌著國內大模型在處理複雜任務方面取得了快速進展,為開發者和企業使用者提供了先進的智慧工具。該模型的API現已在Qwen AI平臺上上線,並整合到新推出的“Qwen Offic
相關專題推薦
評論 (0)
0/500
隨著多模態大型語言模型(MLLM)的快速發展,人工智慧競賽中的關鍵挑戰正從單純的「被動理解圖像」轉變為主動尋找證據並進行推理。 然而,由於缺乏高品質的訓練資料、自動化的軌跡合成管線以及詳盡的訓練指南,開源社群難以複製頂尖的多模態搜尋代理程式。
為突破此瓶頸,騰訊混元的研究團隊攜手加州大學洛杉磯分校(UCLA)及香港中文大學,共同推出OpenSearch-VL。這份完全開源的藍圖,為透過強化學習(RL)建構最先進的深度搜尋代理提供了具體路徑。

創新資料處理流程突破搜尋瓶頸
研究團隊指出,高品質的訓練資料是模型進化的主要瓶頸。為了訓練模型進行多步驟推理——超越單純的「一鍵式」圖像識別——他們設計了一套縝密的数据整合流程。
該管道從維基百科的超連結圖中採樣路徑,將複雜的實體關係轉化為多跳問答對。為防止「捷徑學習」,研究人員採用模糊實體重寫技術來隱藏直接答案,並整合了以原始碼為錨點的視覺定位機制。 此方法迫使模型必須先偵測視覺訊號,再透過外部工具迭代式地檢索資訊,從而防止在檢索過程中發生能力退化。 最終,研究團隊建構了 SearchVL-SFT 資料庫(36,000 條指令微調軌跡)與 SearchVL-RL 資料庫(8,000 條強化學習軌跡)。
超越簡單搜尋的多功能工具集
OpenSearch-VL 超越了基本的文字搜尋。在實際應用中,使用者提供的圖片往往模糊、變形或解析度過低,導致傳統搜尋工具難以發揮作用。
為解決此問題,本專案整合了一套豐富的工具:網頁搜尋、反向圖像搜尋、OCR、圖像裁切、銳化、超解析度及透視校正。該代理程式會像人類一樣,在查詢外部知識之前主動感知並修正不完美的視覺內容,以確保後續搜尋的可靠性。
具備故障感知能力的演算法,實現從錯誤中學習
在長時程任務中,工具調用可能引發連鎖故障。單一超時或錯誤就可能導致整個任務脫軌。傳統的強化學習(RL)通常會捨棄這些失敗的軌跡,從而浪費訓練資源。
OpenSearch-VL 引入了「多輪故障感知 GRPO(Multi-round Fault-Aware GRPO)」訓練演算法,該演算法能識別工具調用中的關鍵故障點。它利用遮罩技術過濾掉故障後無效的資訊,並採用單側優勢裁剪,以保留早期步驟中有用的邏輯。 如此一來,即使最終結果以失敗告終,模型仍能從先前階段學習到有效的搜尋路徑與探索策略。
實驗結果可與商業專有模型媲美
評估結果顯示,該模型在七項主流多模態深度搜尋基準測試中均展現出強勁表現,平均提升幅度超過 10 個百分點。在某些特定任務上,OpenSearch-VL 已能媲美頂尖的閉源商用模型。
研究團隊計畫將 OpenSearch-VL 的所有訓練資料、程式碼及模型權重全面開源,為全球開發者提供一個可重現且可改進的基礎,將多模態代理人的研究推向更深層的領域。
內部細節曝光:下一代 Gemini 算力緊張,內部團隊在開發優先順序和資源分配上存在分歧
報告顯示,谷歌備受期待的下一代 Gemini 模型釋出已被推遲。由於內部在開發優先順序和資源分配上存在分歧,加上計算能力有限以及複雜的審批流程,導致釋出時間延後了兩個月。儘管谷歌擁有定製的 TPU 晶片,但由於模型訓練、Google Cloud 服務以及眾多消費和企業級 AI 應用對計算資源的需求相互競爭,谷歌仍面臨計算資源短缺的問題。目前,高層管理人員正透過組織結構調整來解決這些部門間的衝突。與此同時,領導層也發生了變化,聯合創始人謝爾蓋·布林越來越多地參與到核心模型訓練中,並倡導將資源專門用於
OpenAI 否認增長放緩擔憂,稱多個業務部門加速發展
針對外界對其銷售增長放緩及未達內部基準的質疑,人工智慧領域的領軍企業 OpenAI 於 4 月 28 日(星期二)發表了一份信心十足的宣告。該公司澄清稱,其消費產品和企業服務正在快速推進,直接駁斥了近期關於業務放緩的猜測。針對該公司“未達成多項內部目標”的說法,OpenAI 將這些報道斥為“典型的標題黨”。公司強調了企業對 AI 整合的強勁需求,並指出其廣告業務早期增長前景良好。據 OpenAI 內部人士透露,公司內部情緒依然樂觀。儘管市場競爭日益激烈,但公司正在向投資者傳遞信心,聲稱其商業
阿里巴巴超級盃:Qwen3.8-Max 重磅登場,程式碼與辦公工具能力全面升級
阿里巴巴正式釋出了Qwen3.8-Max,這是一款擁有2.4萬億引數的下一代基礎大模型。這一重大AI進展在編碼和專業辦公任務等核心領域帶來了顯著的效能提升,展現了強大的技術能力。在權威的Arena大模型排名中,Qwen3.8-Max取得了令人矚目的成績,僅次於Anthropic的Claude系列,位居行業前列。這一里程碑標誌著國內大模型在處理複雜任務方面取得了快速進展,為開發者和企業使用者提供了先進的智慧工具。該模型的API現已在Qwen AI平臺上上線,並整合到新推出的“Qwen Offic





首頁






