選項
首頁
新聞
Google DeepMind 的 TIPSv2:真正理解圖像的人工智慧,而非僅是淺嚐輒止

Google DeepMind 的 TIPSv2:真正理解圖像的人工智慧,而非僅是淺嚐輒止

2026-05-31
118

當前人工智慧的圖像理解能力存在一項核心限制。

當被問及「這張圖片裡有什麼?」時,它能給出詳盡的回答。然而,若詢問「熊貓的左後腿在哪裡?」,則會得到模糊的回答。這並非特定模型的缺陷,而是整個視覺語言大型模型領域普遍存在的問題:具備強大的全局理解能力,卻缺乏精確的局部定位能力。

Google DeepMind 在其最新論文中推出了 TIPSv2,該模型正是專為解決這個棘手問題而設計。

TIPSv2 方法圖

研究團隊觀察到一項反直覺的發現:在細粒度分割任務中,較小的學生模型往往表現優於較大的教師模型。這是因為知識蒸餾去除了遮罩機制,迫使模型學習整張圖片的每個細節,從而形成一種「全域監督」。受此洞見啟發,TIPSv2 引入了三項關鍵增強。

首先是 iBOT++。傳統預訓練僅針對遮罩區域計算損失,導致可見區域被忽略,進而造成局部語義漂移。iBOT++ 要求模型對所有可見區域提供精確的監督,有效將任務從「拼圖遊戲」升級為「仔細閱讀整篇文章」。這項單一改進使零樣本分割性能提升了 14.1 個百分點。

其次,僅限投影頭的 EMA。傳統的自監督訓練需要在記憶體中維持兩個幾乎相同的大型模型,這極度消耗資源。TIPSv2 發現,僅憑圖文對比損失就足以穩定骨幹網路,因此 EMA 只需應用於最終的投影頭,無需複製骨幹網路。這使訓練參數數量減少約 42%,不僅加速訓練過程,且幾乎不影響效能。

第三,多粒度文字配對。在訓練過程中,由 Gemini 生成的短網文描述、中等細節描述及長描述會隨機混合並輸入模型,並交替進行簡單與困難的任務。這既能防止模型在簡單任務中懈怠,又能確保不遺漏任何細節。

最終成果令人信服。TIPSv2 針對九項任務及 20 個權威資料集進行了凍結評估。零樣本語義分割創下新的業界基準,而圖文檢索與分類表現更超越參數多出 56% 的對照模型。純視覺任務的表現同樣名列前茅。

TIPSv2 的程式碼與模型權重已全面開源。對於從事醫學影像、自動駕駛、工業檢測及其他需要高精度影像理解領域的團隊而言,這套解決方案絕對值得深入研究。

論文:https://www.alphaxiv.org/abs/2604.12012

相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。 DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。 Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額 儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額 儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代 加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代 Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
聊天機器人 用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用
用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用

2026 年最新最佳頂級評分 AI 角色扮演聊天應用,用於語言練習、面試準備和日常流利度!XIX.AI 精心策劃了一個強大的變革性合集,提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能,克服流利度挑戰,並提高所有日常場景下的溝通效率。立即探索,發現您語言成長的完美工具!

10 個工具
xix.ai
音樂創作 用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具
用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具

2026年最新、最優秀且評分最高的AI音軌分離工具彙總,專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試,能夠實現精準的音訊分離,顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南,幫助您找到最適合自身需求的工具。立即探索,發揮您的AI優勢。

8 個工具
xix.ai
數據分析 用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手
用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手

2026年最新最優秀的AI SQL輔助工具排名揭曉!XIX.AI精心挑選了一系列功能強大的工具,這些工具會定期更新,並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具,您可以快速生成精準的收入分析報表、分析銷售流程,並追蹤產品各項指標,從而大幅提升工作效率。立即探索,找到最適合您的資料驅動決策工具!238個字元

9 個工具
xix.ai
音樂創作 最佳用於歌曲草稿的 AI 旋律創作工具
最佳用於歌曲草稿的 AI 旋律創作工具

2026 年最新最佳頂級評分 AI 旋律創作工具,助力歌曲草稿創作!XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集,旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項,這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿,並顯著提升您的創意生產力。立即探索,發現您的完美工具!

8 個工具
xix.ai
聊天機器人 最適合面試練習的 AI 對話訓練工具
最適合面試練習的 AI 對話訓練工具

2026 年最新、最受好評的 AI 面試對話訓練工具,盡在 XIX.AI!這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具,這些工具均經過嚴格的實戰測試,能提供精準的回饋。 您將在此找到免費版與付費版的比較分析,以及詳細的排名榜單,助您挑選必試的選項,從而提升自信與技能。立即探索,發掘助您在面試中脫穎而出的完美工具!

12 個工具
xix.ai
設計與藝術 最適合進行創意實驗的 AI 風格轉移工具
最適合進行創意實驗的 AI 風格轉移工具

2026 年最新、最佳且評價最高的 AI 風格轉移工具,助您進行創意實驗!XIX.AI 精心精選了一系列強大且具革命性的必試工具,這些工具經實際測試與嚴格評比,能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性,協助創作者顯著提升生產力。 立即探索,找出最適合您的工具,並從今天開始創作吧!

9 個工具
xix.ai
評論 (0)
0/500
OR