Откроется глубокий поиск, чтобы оспорить недоумение и поиск в CHATGPT

Если вы в мире технологий, вы, вероятно, слышали о шуме вокруг Open Deep Search (ODS), нового фреймворка с открытым исходным кодом от Sentient Foundation. ODS вызывает ажиотаж, предлагая надежную альтернативу проприетарным поисковым системам на базе AI, таким как Perplexity и ChatGPT Search, и направлен на расширение возможностей больших языковых моделей (LLMs) с помощью продвинутых агентов рассуждений, использующих веб-поиск и другие инструменты для эффективного ответа на ваши запросы.

Ландшафт AI-поиска

Современные инструменты AI-поиска, такие как Perplexity и ChatGPT Search, впечатляют, сочетая знания и рассуждения LLMs с веб-поиском в реальном времени для предоставления актуальных ответов. Однако эти системы часто закрыты за проприетарными дверями, что затрудняет настройку и специализированные приложения.

Химаншу Тьяги, сооснователь Sentient, поделился с VentureBeat: «Большинство инноваций в AI-поиске происходило за закрытыми дверями. Усилия с открытым исходным кодом исторически отставали по удобству и производительности. ODS стремится устранить этот разрыв, доказывая, что открытые системы могут не только конкурировать, но и потенциально превосходить закрытые аналоги по качеству, скорости и гибкости».

Архитектура Open Deep Search (ODS)

ODS — это не просто инструмент; это подключаемая система, которую можно интегрировать как с моделями с открытым исходным кодом, такими как DeepSeek-R1, так и с закрытыми моделями, такими как GPT-4o и Claude. В основе ODS два основных компонента:

Инструмент открытого поиска

Этот компонент принимает ваш запрос и ищет в Интернете релевантную информацию для передачи в LLM в качестве контекста. Он умен — перефразирует ваш запрос разными способами для обеспечения широкого и разнообразного поиска. После получения результатов от поисковой системы он извлекает фрагменты и связанные страницы, затем использует сегментацию и переранжирование для выбора наиболее релевантного контента. Он особенно эффективен в работе с конкретными источниками, такими как Wikipedia, ArXiv и PubMed, и может быть настроен на приоритет надежных источников при наличии противоречивой информации.

Агент открытых рассуждений

Этот агент принимает ваш запрос и, используя базовую LLM и различные инструменты (включая инструмент открытого поиска), формирует окончательный ответ. Sentient предлагает две различные архитектуры агентов в рамках ODS:

ODS-v1

Эта версия использует фреймворк агента ReAct в сочетании с рассуждениями по цепочке мыслей (CoT). Агенты ReAct чередуют шаги рассуждений («мысли»), действия (например, использование поискового инструмента) и наблюдения (результаты этих действий). ODS-v1 проходит через этот процесс для получения ответа. Если агент ReAct сталкивается с трудностями, он переходит на CoT Self-Consistency, выбирая наиболее распространенный ответ из нескольких ответов CoT.

ODS-v2

Эта версия использует Chain-of-Code (CoC) и агента CodeAct, созданного с библиотекой Hugging Face SmolAgents. CoC использует способность LLM генерировать и выполнять фрагменты кода для решения задач, а CodeAct использует генерацию кода для планирования действий. ODS-v2 может управлять несколькими инструментами и агентами, что делает его идеальным для сложных задач, требующих сложного планирования и нескольких итераций поиска.

Архитектура ODS Источник: arXiv

Тьяги пояснил: «В то время как инструменты, такие как ChatGPT или Grok, предлагают «глубокое исследование» через разговорных агентов, ODS работает на другом уровне — больше как инфраструктура, лежащая в основе Perplexity AI, предоставляя архитектуру для интеллектуального извлечения данных, а не только краткие обзоры».

Производительность и практические результаты

Sentient протестировала ODS, соединив его с моделью с открытым исходным кодом DeepSeek-R1 и сравнив с закрытыми конкурентами, такими как Perplexity AI и предварительная версия GPT-4o Search от OpenAI, а также автономными LLMs, такими как GPT-4o и Llama-3.1-70B. Они использовали бенчмарки FRAMES и SimpleQA, адаптированные для оценки точности систем AI-поиска.

Результаты? Впечатляющие. Как ODS-v1, так и ODS-v2 в паре с DeepSeek-R1 превзошли флагманские продукты Perplexity. ODS-v2 с DeepSeek-R1 даже превзошел предварительную версию GPT-4o Search на сложном бенчмарке FRAMES и был близок на SimpleQA.

Одно интересное наблюдение — эффективность фреймворка. Агенты рассуждений в обеих версиях ODS научились разумно использовать поисковый инструмент, часто решая, нужен ли дополнительный поиск, на основе качества начальных результатов. Например, ODS-v2 использовал меньше веб-поисков для более простых задач SimpleQA по сравнению с более сложными, многошаговыми запросами в FRAMES, оптимизируя использование ресурсов.

Значение для предприятий

Для бизнеса, стремящегося использовать мощные возможности AI-рассуждений с информацией в реальном времени, ODS меняет правила игры. Он предлагает прозрачную, настраиваемую и высокопроизводительную альтернативу проприетарным системам AI-поиска. Возможность подключения предпочтительных LLMs и инструментов с открытым исходным кодом позволяет организациям настраивать свой AI-стек и избегать зависимости от одного поставщика.

«ODS был разработан с учетом модульности», — отметил Тьяги. «Он динамически выбирает, какие инструменты использовать, на основе описаний, предоставленных в запросе. Это означает, что он может свободно взаимодействовать с незнакомыми инструментами — при условии, что они хорошо описаны — без необходимости предварительного знакомства».

Однако он предостерег, что производительность ODS может ухудшиться, если набор инструментов станет слишком перегруженным, «поэтому тщательный дизайн имеет решающее значение».

Sentient сделала код ODS доступным на GitHub, приглашая сообщество исследовать и вносить вклад.

«Изначально сила Perplexity и ChatGPT заключалась в их передовой технологии, но с ODS мы выровняли этот технологический ландшафт», — заключил Тьяги. «Теперь мы стремимся превзойти их возможности с помощью нашей стратегии «открытые входы и открытые выходы», позволяя пользователям легко интегрировать пользовательских агентов в Sentient Chat».