Öffnen Sie die tiefe Suche, um Verwirrung und Chatgpt -Suche in Frage zu stellen

Wenn Sie in der Technologiebranche tätig sind, haben Sie wahrscheinlich schon von dem Hype um Open Deep Search (ODS) gehört, dem neuen Open-Source-Framework der Sentient Foundation. ODS sorgt für Aufsehen, indem es eine robuste Alternative zu proprietären KI-Suchmaschinen wie Perplexity und ChatGPT Search bietet und darauf abzielt, große Sprachmodelle (LLMs) mit fortschrittlichen Reasoning-Agenten auszustatten, die Websuche und andere Werkzeuge nutzen, um Ihre Anfragen effektiv zu beantworten.

Die Landschaft der KI-Suche

Die heutigen KI-Suchtools wie Perplexity und ChatGPT Search sind beeindruckend und kombinieren das Wissen und die Reasoning-Fähigkeiten von LLMs mit Echtzeit-Websuche, um aktuelle Antworten zu liefern. Diese Systeme sind jedoch oft hinter proprietären Türen verschlossen, was die Anpassung und spezialisierten Anwendungen erschwert.

Himanshu Tyagi, Mitbegründer von Sentient, teilte VentureBeat mit: „Die meisten Innovationen in der KI-Suche fanden bisher hinter verschlossenen Türen statt. Open-Source-Bemühungen hinkten in Bezug auf Benutzerfreundlichkeit und Leistung historisch hinterher. ODS zielt darauf ab, diese Lücke zu schließen und zu beweisen, dass offene Systeme nicht nur konkurrieren, sondern ihre geschlossenen Pendants in Qualität, Geschwindigkeit und Flexibilität potenziell übertreffen können.“

Open Deep Search (ODS) Architektur

ODS ist nicht nur ein weiteres Werkzeug; es ist ein Plug-and-Play-System, das sowohl mit Open-Source-Modellen wie DeepSeek-R1 als auch mit geschlossenen Modellen wie GPT-4o und Claude integriert werden kann. Im Kern hat ODS zwei Hauptkomponenten:

Open Search Tool

Diese Komponente nimmt Ihre Anfrage entgegen und durchforstet das Web nach relevanten Informationen, die dem LLM als Kontext zurückgegeben werden. Sie ist auch intelligent – sie formuliert Ihre Anfrage auf verschiedene Weise um, um eine breite und vielfältige Suche zu gewährleisten. Nach dem Abrufen von Ergebnissen aus einer Suchmaschine extrahiert sie Textausschnitte und verlinkte Seiten, verwendet dann Chunking und Re-Ranking, um sich auf die relevantesten Inhalte zu konzentrieren. Sie ist besonders geschickt im Umgang mit spezifischen Quellen wie Wikipedia, ArXiv und PubMed und kann angewiesen werden, zuverlässige Quellen zu priorisieren, wenn widersprüchliche Informationen vorliegen.

Open Reasoning Agent

Dieser Agent nimmt Ihre Anfrage entgegen und erstellt mit dem Basis-LLM und verschiedenen Werkzeugen (einschließlich des Open Search Tools) eine endgültige Antwort. Sentient bietet innerhalb von ODS zwei unterschiedliche Agentenarchitekturen:

ODS-v1

Diese Version verwendet ein ReAct-Agenten-Framework in Kombination mit Chain-of-Thought (CoT) Reasoning. ReAct-Agenten wechseln zwischen Reasoning-Schritten („Gedanken“) und Aktionen (wie der Nutzung des Suchtools) sowie Beobachtungen (den Ergebnissen dieser Aktionen). ODS-v1 durchläuft diesen Prozess iterativ, um eine Antwort zu erreichen. Wenn der ReAct-Agent auf ein Problem stößt, greift er auf CoT Self-Consistency zurück, indem er mehrere CoT-Antworten abtastet und die häufigste Antwort auswählt.

ODS-v2

Diese Version nutzt Chain-of-Code (CoC) und einen CodeAct-Agenten, der mit der Hugging Face SmolAgents-Bibliothek entwickelt wurde. CoC nutzt die Fähigkeit des LLM, Codeschnipsel zu generieren und auszuführen, um Probleme zu lösen, während CodeAct Codegenerierung für die Planung von Aktionen verwendet. ODS-v2 kann mehrere Werkzeuge und Agenten verwalten, was es ideal für die Bewältigung komplexer Aufgaben macht, die ausgeklügelte Planung und mehrere Suchiterationen erfordern.

ODS Architektur Quelle: arXiv

Tyagi erklärte: „Während Tools wie ChatGPT oder Grok ‚tiefe Forschung‘ über konversationelle Agenten anbieten, operiert ODS auf einer anderen Ebene – eher wie die Infrastruktur hinter Perplexity AI – und bietet die zugrunde liegende Architektur, die intelligente Abrufvorgänge ermöglicht, nicht nur Zusammenfassungen.“

Leistung und praktische Ergebnisse

Sentient hat ODS getestet, indem es mit dem Open-Source-Modell DeepSeek-R1 kombiniert und gegen geschlossene Konkurrenten wie Perplexity AI und OpenAI's GPT-4o Search Preview sowie eigenständige LLMs wie GPT-4o und Llama-3.1-70B angetreten ist. Sie verwendeten die FRAMES- und SimpleQA-Benchmarks, die angepasst wurden, um die Genauigkeit von suchfähigen KI-Systemen zu bewerten.

Die Ergebnisse? Beeindruckend. Sowohl ODS-v1 als auch ODS-v2 übertrafen, wenn sie mit DeepSeek-R1 kombiniert wurden, die Flaggschiffprodukte von Perplexity. ODS-v2 mit DeepSeek-R1 übertraf sogar die GPT-4o Search Preview beim komplexen FRAMES-Benchmark und kam bei SimpleQA nahe heran.

Ein faszinierender Einblick war die Effizienz des Frameworks. Die Reasoning-Agenten in beiden ODS-Versionen lernten, das Suchtool klug zu nutzen, und entschieden oft, ob eine weitere Suche nötig war, basierend auf der Qualität der anfänglichen Ergebnisse. Zum Beispiel verwendete ODS-v2 weniger Websuchen bei den einfacheren SimpleQA-Aufgaben im Vergleich zu den komplexeren, mehrstufigen Anfragen in FRAMES, was die Ressourcennutzung optimierte.

Auswirkungen für Unternehmen

Für Unternehmen, die leistungsstarke KI-Reasoning-Fähigkeiten mit Echtzeitinformationen nutzen möchten, ist ODS ein Gamechanger. Es bietet eine transparente, anpassbare und leistungsstarke Alternative zu proprietären KI-Suchsystemen. Die Möglichkeit, bevorzugte Open-Source-LLMs und -Tools einzubinden, bedeutet, dass Organisationen ihren KI-Stack anpassen und vermeiden können, an einen einzigen Anbieter gebunden zu sein.

„ODS wurde mit Modularität im Sinn entwickelt“, bemerkte Tyagi. „Es wählt dynamisch aus, welche Tools basierend auf den im Prompt bereitgestellten Beschreibungen verwendet werden. Das bedeutet, es kann flüssig mit unbekannten Tools interagieren – solange sie gut beschrieben sind – ohne vorherige Exposition.“

Er warnte jedoch, dass die Leistung von ODS leiden kann, wenn das Toolset zu überladen wird, „daher ist sorgfältiges Design entscheidend.“

Sentient hat den ODS-Code auf GitHub verfügbar gemacht und lädt die Community ein, ihn zu erkunden und dazu beizutragen.

„Anfangs war die Stärke von Perplexity und ChatGPT ihre fortschrittliche Technologie, aber mit ODS haben wir dieses technologische Spielfeld eingeebnet“, schloss Tyagi. „Wir zielen nun darauf ab, ihre Fähigkeiten durch unsere ‚offene Eingaben und offene Ausgaben‘-Strategie zu übertreffen, die es Nutzern ermöglicht, benutzerdefinierte Agenten nahtlos in Sentient Chat zu integrieren.“