Google DeepMind 的 TIPSv2:真正理解圖像的人工智慧,而非僅是淺嚐輒止
當前人工智慧的圖像理解能力存在一項核心限制。
當被問及「這張圖片裡有什麼?」時,它能給出詳盡的回答。然而,若詢問「熊貓的左後腿在哪裡?」,則會得到模糊的回答。這並非特定模型的缺陷,而是整個視覺語言大型模型領域普遍存在的問題:具備強大的全局理解能力,卻缺乏精確的局部定位能力。
Google DeepMind 在其最新論文中推出了 TIPSv2,該模型正是專為解決這個棘手問題而設計。

研究團隊觀察到一項反直覺的發現:在細粒度分割任務中,較小的學生模型往往表現優於較大的教師模型。這是因為知識蒸餾去除了遮罩機制,迫使模型學習整張圖片的每個細節,從而形成一種「全域監督」。受此洞見啟發,TIPSv2 引入了三項關鍵增強。
首先是 iBOT++。傳統預訓練僅針對遮罩區域計算損失,導致可見區域被忽略,進而造成局部語義漂移。iBOT++ 要求模型對所有可見區域提供精確的監督,有效將任務從「拼圖遊戲」升級為「仔細閱讀整篇文章」。這項單一改進使零樣本分割性能提升了 14.1 個百分點。
其次,僅限投影頭的 EMA。傳統的自監督訓練需要在記憶體中維持兩個幾乎相同的大型模型,這極度消耗資源。TIPSv2 發現,僅憑圖文對比損失就足以穩定骨幹網路,因此 EMA 只需應用於最終的投影頭,無需複製骨幹網路。這使訓練參數數量減少約 42%,不僅加速訓練過程,且幾乎不影響效能。
第三,多粒度文字配對。在訓練過程中,由 Gemini 生成的短網文描述、中等細節描述及長描述會隨機混合並輸入模型,並交替進行簡單與困難的任務。這既能防止模型在簡單任務中懈怠,又能確保不遺漏任何細節。
最終成果令人信服。TIPSv2 針對九項任務及 20 個權威資料集進行了凍結評估。零樣本語義分割創下新的業界基準,而圖文檢索與分類表現更超越參數多出 56% 的對照模型。純視覺任務的表現同樣名列前茅。
TIPSv2 的程式碼與模型權重已全面開源。對於從事醫學影像、自動駕駛、工業檢測及其他需要高精度影像理解領域的團隊而言,這套解決方案絕對值得深入研究。
論文:https://www.alphaxiv.org/abs/2604.12012
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (0)
0/500
當前人工智慧的圖像理解能力存在一項核心限制。
當被問及「這張圖片裡有什麼?」時,它能給出詳盡的回答。然而,若詢問「熊貓的左後腿在哪裡?」,則會得到模糊的回答。這並非特定模型的缺陷,而是整個視覺語言大型模型領域普遍存在的問題:具備強大的全局理解能力,卻缺乏精確的局部定位能力。
Google DeepMind 在其最新論文中推出了 TIPSv2,該模型正是專為解決這個棘手問題而設計。

研究團隊觀察到一項反直覺的發現:在細粒度分割任務中,較小的學生模型往往表現優於較大的教師模型。這是因為知識蒸餾去除了遮罩機制,迫使模型學習整張圖片的每個細節,從而形成一種「全域監督」。受此洞見啟發,TIPSv2 引入了三項關鍵增強。
首先是 iBOT++。傳統預訓練僅針對遮罩區域計算損失,導致可見區域被忽略,進而造成局部語義漂移。iBOT++ 要求模型對所有可見區域提供精確的監督,有效將任務從「拼圖遊戲」升級為「仔細閱讀整篇文章」。這項單一改進使零樣本分割性能提升了 14.1 個百分點。
其次,僅限投影頭的 EMA。傳統的自監督訓練需要在記憶體中維持兩個幾乎相同的大型模型,這極度消耗資源。TIPSv2 發現,僅憑圖文對比損失就足以穩定骨幹網路,因此 EMA 只需應用於最終的投影頭,無需複製骨幹網路。這使訓練參數數量減少約 42%,不僅加速訓練過程,且幾乎不影響效能。
第三,多粒度文字配對。在訓練過程中,由 Gemini 生成的短網文描述、中等細節描述及長描述會隨機混合並輸入模型,並交替進行簡單與困難的任務。這既能防止模型在簡單任務中懈怠,又能確保不遺漏任何細節。
最終成果令人信服。TIPSv2 針對九項任務及 20 個權威資料集進行了凍結評估。零樣本語義分割創下新的業界基準,而圖文檢索與分類表現更超越參數多出 56% 的對照模型。純視覺任務的表現同樣名列前茅。
TIPSv2 的程式碼與模型權重已全面開源。對於從事醫學影像、自動駕駛、工業檢測及其他需要高精度影像理解領域的團隊而言,這套解決方案絕對值得深入研究。
論文:https://www.alphaxiv.org/abs/2604.12012
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






