TaiXu-Admin V0.1.2 представляет унифицированную консоль, объединяющую возможности LLM, RAG и агентов

Инициатива с открытым исходным кодом, направленная на структурирование возможностей крупных языковых моделей, добилась очередного постепенного прогресса. Выпущена версия TaiXu-Admin 0.1.2. Эта система управления приложениями, построенная на основе LLM, RAG и Agent, призвана объединить диалог, улучшение поиска и взаимодействие интеллектуальных агентов в единый бэкенд.

Журнал обновлений для этой версии весьма обширен. В нём реализована связь документации с синтаксическим анализом LLM Wiki и введён поиск по LLM Wiki; внедрен механизм «горячей» замены компиляции (HCP) для изменённых файлов кода, позволяющий вносить корректировки без перезапуска; база знаний и библиотека графов знаний теперь поддерживают настраиваемую реконфигурацию. Обновлено управление исторической памятью, а также завершена реализация обработки исключений для RAG и Agent во время выполнения — для платформы, призванной поддерживать работу нескольких интеллектуальных агентов в режиме онлайн в течение длительного времени, эти улучшения ещё более укрепили её основу.

Если рассмотреть саму систему, то TaiXu-Admin представляет собой интеллектуальную систему с интегрированными технологиями искусственного интеллекта: бэкенд написан на Python, а в фронтенде для интерактивных страниц используется React. Её возможности включают LLM-диалог, RAG и Agent. В качестве основных компонентов приложений с использованием крупных моделей в ней используются LangChain и LangGraph. Первый создаёт модульные конвейеры моделей, а второй обеспечивает сложное, управляемое состоянием взаимодействие нескольких агентов, тем самым поддерживая режим RAG, режим агента, инженерию подсказок, вызов инструментов и управление памятью, объединяя диалоговое взаимодействие, генерацию с улучшенным извлечением знаний и сотрудничество агентов в единое целое.

Что действительно демонстрирует его возможности, так это то, что он представляет собой меню, включающее практически все основные практики, существующие на рынке. В разделе RAG доступны: нативный RAG, поддержка нескольких запросов, слияние результатов поиска, декомпозиция на подвопросы, гипотетическая вставка документов (HYDE), логическая и семантическая маршрутизация, переформулировка запросов, использование нескольких представлений и иерархическая индексация (RAPTOR). Агенты с функциями исправления ошибок, самопроверки и самоадаптации обеспечивают защиту в процессе поиска. Специальные режимы также включают графы знаний GraphRAG, ключевые слова BM25, гибридный RAG, кластеризацию методом K-средних и RAG с максимальной маргинальной релевантностью. Режим «Агент» ещё более динамичен: действия по рассуждению ReAct, рассуждения ReWOO без наблюдений, выполнение планов, компиляция LLM, рефлексия, самопознание, интеллектуальный поиск по дереву, а также контролируемая, совместная и иерархическая координация множества агентов — что практически охватывает все ключевые элементы современных исследований в области агентов.

С точки зрения архитектуры система следует подходу с разделением фронт-энда и бэк-энда и модульной структурой. Бэк-энд построен с использованием Python и лёгкого фреймворка Flask для поддержки RESTful API. Фронт-энд использует React для создания адаптивного интерфейса, задействуя открытый проект Umi от Ant Group для разработки и используя Ant Design в качестве библиотеки компонентов. База данных также разделена по ролям: высокопроизводительный облачный Qdrant хранит текстовые вложения и обрабатывает поиск по семантическому сходству, Neo4j моделирует сложные отношения между сущностями и обеспечивает графовое вычисление, а PostgreSQL надёжно хранит структурированные бизнес-данные, такие как пользователи, журналы и конфигурации.

Начать работу несложно. Зависимости фронтенда управляются через npm или yarn, а бэкенда — через pip или poetry; после чего необходимо установить три основных компонента: Qdrant, Neo4j и PostgreSQL. Если вы просто хотите попробовать проект локально, то для демонстрации работы основных модулей достаточно выполнить самые простые шаги по настройке — вам даже не понадобятся Qdrant и Neo4j. После запуска перейдите по адресу localhost:8000, где имя пользователя и пароль по умолчанию — admin. Теперь разработчикам доступна система, объединяющая LLM, RAG и Agent в единое решение.