Heim
Tencent stellt OpenSearch-VL vor: einen Open-Source-Agenten für multimodale Deep-Search-Anwendungen
Angesichts der rasanten Weiterentwicklung multimodaler großer Sprachmodelle (MLLMs) verlagert sich die zentrale Herausforderung im KI-Wettbewerb vom bloßen „passiven Verstehen von Bildern“ hin zum aktiven Suchen nach Belegen und zum Schlussfolgern. Doch der Mangel an hochwertigen Trainingsdaten, automatisierten Pipelines zur Trajektoriensynthese und detaillierten Trainingsanleitungen hat es der Open-Source-Community erschwert, multimodale Suchagenten der Spitzenklasse nachzubilden.
Um diesen Engpass zu überwinden, hat ein Forschungsteam von Tencent Hunyuan gemeinsam mit der UCLA und der Chinese University of Hong Kong OpenSearch-VL ins Leben gerufen. Dieser vollständig quelloffene Entwurf bietet einen Weg zum Aufbau eines hochmodernen Deep-Search-Agenten mittels bestärkendem Lernen (RL).

Innovative Datenpipeline überwindet Suchabkürzungen
Das Team identifizierte hochwertige Trainingsdaten als den primären Engpass für die Weiterentwicklung von Modellen. Um Modelle für mehrstufiges Schlussfolgern zu trainieren – über die einfache Bilderkennung per Mausklick hinaus –, entwarf es eine sorgfältig durchdachte Pipeline zur Datenkonsolidierung.
Diese Pipeline entnimmt Stichproben aus dem Hyperlink-Graphen von Wikipedia und wandelt komplexe Entitätsbeziehungen in Multi-Hop-Frage-Antwort-Paare um. Um das Lernen von Abkürzungen zu verhindern, wandten die Forscher eine unscharfe Entitätsumschreibung an, um direkte Antworten zu verbergen, und integrierten eine am Quellcode verankerte visuelle Lokalisierung. Dieser Ansatz zwingt das Modell dazu, zunächst visuelle Signale zu erkennen und anschließend Informationen mithilfe externer Tools iterativ abzurufen, wodurch ein Leistungsabfall während des Abrufs verhindert wird. Als Ergebnis erstellte das Team die SearchVL-SFT-Datenbank (36.000 Feinabstimmungsverläufe anhand von Anweisungen) und die SearchVL-RL-Datenbank (8.000 Verläufe des verstärkenden Lernens).
Vielseitiges Toolset, das über die einfache Suche hinausgeht
OpenSearch-VL geht über die einfache Textsuche hinaus. In der Praxis sind von Nutzern bereitgestellte Bilder oft unscharf, verzerrt oder haben eine geringe Auflösung, wodurch herkömmliche Suchwerkzeuge unwirksam werden.
Um diesem Problem zu begegnen, umfasst das Projekt eine umfangreiche Palette an Werkzeugen: Websuche, umgekehrte Bildersuche, OCR, Bildzuschnitt, Schärfung, Superauflösung und Perspektivkorrektur. Der Agent erkennt und korrigiert unvollkommene Bilddaten aktiv – ähnlich wie ein Mensch –, bevor er externes Wissen abfragt, und gewährleistet so zuverlässige nachfolgende Suchvorgänge.
Fehlerbewusster Algorithmus ermöglicht das Lernen aus Fehlern
Bei Aufgaben mit langem Zeithorizont können Tool-Aufrufe kaskadierende Fehler verursachen. Ein einziges Timeout oder ein einziger Fehler kann die gesamte Aufgabe zum Scheitern bringen. Herkömmliches RL verwirft diese fehlgeschlagenen Verläufe oft, wodurch Trainingsressourcen verschwendet werden.
OpenSearch-VL führt „Multi-round Fault-Aware GRPO“ ein, einen Trainingsalgorithmus, der kritische Fehlerpunkte bei Tool-Aufrufen identifiziert. Er nutzt Maskierung, um ungültige Informationen nach einem Fehler herauszufiltern, und wendet einseitiges Advantage-Clipping an, um nützliche Logik aus früheren Schritten zu bewahren. Auf diese Weise lernt das Modell selbst bei einem endgültigen Fehlschlag aus den vorangegangenen Phasen effektive Suchpfade und Erkundungsstrategien.
Experimentelle Ergebnisse konkurrieren mit kommerziellen proprietären Modellen
Die Auswertungsergebnisse belegen eine starke Leistung bei sieben gängigen Benchmarks für multimodale Deep-Search-Verfahren, wobei die durchschnittliche Verbesserung 10 Prozentpunkte übersteigt. Bei bestimmten spezifischen Aufgaben erreicht OpenSearch-VL bereits das Niveau der führenden kommerziellen Closed-Source-Modelle.
Das Team plant, alle Trainingsdaten, den Code und die Modellgewichte für OpenSearch-VL vollständig als Open Source zur Verfügung zu stellen und bietet Entwicklern weltweit damit eine reproduzierbare und verbesserungsfähige Grundlage, die die Forschung zu multimodalen Agenten in tiefere Bereiche vorantreibt.
Artikel: https://arxiv.org/pdf/2605.05185
Verwandter Artikel
Inside Details Exposed About Next-Gen Gemini: Strained Computing Power, Internal Teams Disagreed on Development Priorities and Resource Allocation
Berichten zufolge wurde der Start des hocherwarteten Next-Generation-Gemini-Modells von Google verschoben. Interne Uneinigkeiten über Entwicklungsprioritäten und Ressourcenallokation, kombiniert mit begrenzter Rechenkapazität und komplexen Genehmigun
OpenAI entkräftet Bedenken bezüglich des verlangsamen Wachstums und erklärt, dass mehrere Geschäftsbereiche ihre Expansion beschleunigen
Als Reaktion auf externe Kritik bezüglich des nachlassenden Umsatzwachstums und verpasster interner Zielvorgaben gab der KI-Pionier OpenAI am Dienstag, den 28. April, eine selbstbewusste Erklärung ab. Das Unternehmen präzisierte, dass seine Verbrauch
Alibaba Super Cup: Qwen3.8-Max debütiert mit verbesserten Coding- und Bürotools
Alibaba hat offiziell Qwen3.8-Max vorgestellt, ein hochmodernes Foundation-Modell mit 2,4 Billionen Parametern. Diese bedeutende KI-Entwicklung bietet erhebliche Leistungssteigerungen in Kernbereichen wie Programmierung und professionelle Büroaufgabe
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Angesichts der rasanten Weiterentwicklung multimodaler großer Sprachmodelle (MLLMs) verlagert sich die zentrale Herausforderung im KI-Wettbewerb vom bloßen „passiven Verstehen von Bildern“ hin zum aktiven Suchen nach Belegen und zum Schlussfolgern. Doch der Mangel an hochwertigen Trainingsdaten, automatisierten Pipelines zur Trajektoriensynthese und detaillierten Trainingsanleitungen hat es der Open-Source-Community erschwert, multimodale Suchagenten der Spitzenklasse nachzubilden.
Um diesen Engpass zu überwinden, hat ein Forschungsteam von Tencent Hunyuan gemeinsam mit der UCLA und der Chinese University of Hong Kong OpenSearch-VL ins Leben gerufen. Dieser vollständig quelloffene Entwurf bietet einen Weg zum Aufbau eines hochmodernen Deep-Search-Agenten mittels bestärkendem Lernen (RL).

Innovative Datenpipeline überwindet Suchabkürzungen
Das Team identifizierte hochwertige Trainingsdaten als den primären Engpass für die Weiterentwicklung von Modellen. Um Modelle für mehrstufiges Schlussfolgern zu trainieren – über die einfache Bilderkennung per Mausklick hinaus –, entwarf es eine sorgfältig durchdachte Pipeline zur Datenkonsolidierung.
Diese Pipeline entnimmt Stichproben aus dem Hyperlink-Graphen von Wikipedia und wandelt komplexe Entitätsbeziehungen in Multi-Hop-Frage-Antwort-Paare um. Um das Lernen von Abkürzungen zu verhindern, wandten die Forscher eine unscharfe Entitätsumschreibung an, um direkte Antworten zu verbergen, und integrierten eine am Quellcode verankerte visuelle Lokalisierung. Dieser Ansatz zwingt das Modell dazu, zunächst visuelle Signale zu erkennen und anschließend Informationen mithilfe externer Tools iterativ abzurufen, wodurch ein Leistungsabfall während des Abrufs verhindert wird. Als Ergebnis erstellte das Team die SearchVL-SFT-Datenbank (36.000 Feinabstimmungsverläufe anhand von Anweisungen) und die SearchVL-RL-Datenbank (8.000 Verläufe des verstärkenden Lernens).
Vielseitiges Toolset, das über die einfache Suche hinausgeht
OpenSearch-VL geht über die einfache Textsuche hinaus. In der Praxis sind von Nutzern bereitgestellte Bilder oft unscharf, verzerrt oder haben eine geringe Auflösung, wodurch herkömmliche Suchwerkzeuge unwirksam werden.
Um diesem Problem zu begegnen, umfasst das Projekt eine umfangreiche Palette an Werkzeugen: Websuche, umgekehrte Bildersuche, OCR, Bildzuschnitt, Schärfung, Superauflösung und Perspektivkorrektur. Der Agent erkennt und korrigiert unvollkommene Bilddaten aktiv – ähnlich wie ein Mensch –, bevor er externes Wissen abfragt, und gewährleistet so zuverlässige nachfolgende Suchvorgänge.
Fehlerbewusster Algorithmus ermöglicht das Lernen aus Fehlern
Bei Aufgaben mit langem Zeithorizont können Tool-Aufrufe kaskadierende Fehler verursachen. Ein einziges Timeout oder ein einziger Fehler kann die gesamte Aufgabe zum Scheitern bringen. Herkömmliches RL verwirft diese fehlgeschlagenen Verläufe oft, wodurch Trainingsressourcen verschwendet werden.
OpenSearch-VL führt „Multi-round Fault-Aware GRPO“ ein, einen Trainingsalgorithmus, der kritische Fehlerpunkte bei Tool-Aufrufen identifiziert. Er nutzt Maskierung, um ungültige Informationen nach einem Fehler herauszufiltern, und wendet einseitiges Advantage-Clipping an, um nützliche Logik aus früheren Schritten zu bewahren. Auf diese Weise lernt das Modell selbst bei einem endgültigen Fehlschlag aus den vorangegangenen Phasen effektive Suchpfade und Erkundungsstrategien.
Experimentelle Ergebnisse konkurrieren mit kommerziellen proprietären Modellen
Die Auswertungsergebnisse belegen eine starke Leistung bei sieben gängigen Benchmarks für multimodale Deep-Search-Verfahren, wobei die durchschnittliche Verbesserung 10 Prozentpunkte übersteigt. Bei bestimmten spezifischen Aufgaben erreicht OpenSearch-VL bereits das Niveau der führenden kommerziellen Closed-Source-Modelle.
Das Team plant, alle Trainingsdaten, den Code und die Modellgewichte für OpenSearch-VL vollständig als Open Source zur Verfügung zu stellen und bietet Entwicklern weltweit damit eine reproduzierbare und verbesserungsfähige Grundlage, die die Forschung zu multimodalen Agenten in tiefere Bereiche vorantreibt.
Artikel: https://arxiv.org/pdf/2605.05185
Inside Details Exposed About Next-Gen Gemini: Strained Computing Power, Internal Teams Disagreed on Development Priorities and Resource Allocation
Berichten zufolge wurde der Start des hocherwarteten Next-Generation-Gemini-Modells von Google verschoben. Interne Uneinigkeiten über Entwicklungsprioritäten und Ressourcenallokation, kombiniert mit begrenzter Rechenkapazität und komplexen Genehmigun
OpenAI entkräftet Bedenken bezüglich des verlangsamen Wachstums und erklärt, dass mehrere Geschäftsbereiche ihre Expansion beschleunigen
Als Reaktion auf externe Kritik bezüglich des nachlassenden Umsatzwachstums und verpasster interner Zielvorgaben gab der KI-Pionier OpenAI am Dienstag, den 28. April, eine selbstbewusste Erklärung ab. Das Unternehmen präzisierte, dass seine Verbrauch
Alibaba Super Cup: Qwen3.8-Max debütiert mit verbesserten Coding- und Bürotools
Alibaba hat offiziell Qwen3.8-Max vorgestellt, ein hochmodernes Foundation-Modell mit 2,4 Billionen Parametern. Diese bedeutende KI-Entwicklung bietet erhebliche Leistungssteigerungen in Kernbereichen wie Programmierung und professionelle Büroaufgabe











