Как создать ИИ-чатбот с помощью Azure AI Foundry в 2025 году? Пошаговое руководство.

Создание чатбота с искусственным интеллектом может показаться сложной задачей, но она вполне выполнима при наличии правильных инструментов и подхода. В этом подробном руководстве вы узнаете, как создать чатбота с помощью Azure AI Foundry, расширить его знания с помощью Azure AI Search для генерации с расширенным поиском (RAG) и использовать оптимизированную контейнеризацию для плавного развертывания. Мы упростим процесс до четких, выполнимых шагов, чтобы подготовить ваш чатбот к работе в производственной среде.

Ключевые моменты

Используйте встроенные шаблоны Azure AI Foundry для ускорения разработки чатбота.

Используйте Azure AI Search for RAG для обогащения базы знаний чатбота частными данными.

Примените контейнеризацию с помощью Docker, чтобы обеспечить единообразное развертывание в разных системах.

Разверните чатбот на Azure Container Instances (ACI), чтобы сделать его общедоступным.

Распознайте и устраните потенциальные препятствия для развертывания.

Создание чатбота с искусственным интеллектом в Azure

Создание сцены: От LLM к чатботам

Разработка сложного чатбота с искусственным интеллектом начинается с фундаментальных элементов: большой языковой модели (LLM), частного набора данных и фреймворка Retrieval-Augmented Generation (RAG). Цель - создать чат-бот, способный получать доступ к конкретной информации и взаимодействовать с пользователями естественным образом. Представьте, что вы уже владеете навыками поиска с помощью искусственного интеллекта и имеете работающую систему RAG - что дальше? Azure предлагает ресурсы для устранения этого пробела. В этом руководстве объясняется, как перевести ваше решение в состояние готовности к производству, когда пользователи смогут активно обращаться к вашему приложению ИИ и использовать его.

Azure AI Foundry служит мощной платформой для интеграции этих компонентов. Мы продемонстрируем, как службы Azure могут превратить необработанные данные в полностью рабочий чатбот. В этом руководстве рассматриваются Azure, Azure AI Search, репозиторий GitHub (Azure-Samples/get-started-with-ai-chat) и экосистема Microsoft Azure. Вот что мы хотим сделать:

• Разработать код локально с помощью Python.
• Создать образ Docker и запустить контейнер.
• Загрузить образ в реестр контейнеров.
• Развертывание из реестра контейнеров в Azure Container Instances для доступа по всему миру.

Часть 1: Локальная разработка и настройка

Наш начальный этап включает в себя подготовку локальной среды разработки с необходимыми технологиями. Вы также можете настроить шаблоны в AI Foundry:

. Мы также создадим и изменим проект на GitHub, чтобы расширить его функциональность.

Для кодирования мы будем использовать Python, в идеале - в IDE вроде Cursor. Этот этап включает в себя:

1. Форк репозитория Azure AI Chat Repository: Форкните репозиторий Azure-Samples/get-started-with-ai-chat с GitHub. В этом репозитории содержится базовый код для проекта чатбота. Шаблон предлагает простую отправную точку для развертывания чат-приложений с помощью Azure AI Foundry и SDK.
2. Создание локального окружения: Создайте файл окружения (.env) для безопасного хранения ключей API и деталей конфигурации.
3. Настройте код: После создания форка и настройки окружения измените код в соответствии с вашими требованиями.

Погружение в платформу AI Foundry

После завершения локальной настройки можно приступать к использованию шаблонов, доступных в Azure AI Foundry. Эта платформа упрощает кодирование приложений ИИ. Для начала выберите опцию "Начать работу с AI Chat". Это подтвердит, что репозиторий был успешно форкнут на вашу учетную запись GitHub.

С помощью этих шаблонов вы сможете создать чатбота, используя предварительно созданный код ИИ, готовый для интеграции в ваши приложения. В качестве альтернативы можно клонировать шаблоны в свою среду в качестве отправной точки.

Работа с AI Search и Azure Models

Конфигурация

Перед выполнением кода и настройкой Docker нам необходимо настроить среду. Создайте файл .env, используя предоставленный шаблон .env.sample, и обновите ключи окружения. Ниже приведен пример конфигурации для проекта Azure Search для подключения конечных точек

:

AZURE_AI_SEARCH_ENDPOINT=AZURE_AI_SEARCH_INDEX_NAME=AZURE_AI_SEARCH_API_KEY=AZURE_AI_EMBEDDINGS_DEPLOYMENT_NAME= (требуется для индексного поиска)AZURE_AI_OPENAI_ENDPOINT=AZURE_AI_OPENAI_API_KEY=AZURE_AI_OPENAI_MODEL_NAME=

Прежде чем создавать контейнер для развертывания в Docker, необходимо создать поле встраивания в конфигурации вектора. Давайте настроим конфигурацию вектора, чтобы убедиться, что все компоненты корректно работают в локальном окружении. При создании индекса можно добавить чанкинг и протестировать вектор, чтобы убедиться, что настройка завершена.

Ниже приведена разбивка переменных конфигурации:

• AZURE"_AI"_SEARCH"_ENDPOINT: URL конечной точки для вашей службы Azure AI Search, используемый для подключения к поисковым ресурсам.
• AZURE"_AI"_SEARCH"_INDEX"_NAME: Имя индекса в Azure AI Search, в котором организованы и хранятся ваши данные.
• AZURE"_AI"_SEARCH"_API"_KEY: API-ключ, необходимый для аутентификации соединений с Azure AI Search, связывающий ваши модели с конечными точками.
• AZURE"_AI"_EMBEDDINGS"_DEPLOYMENT"_NAME: Используется для подключения и предоставления текстовых вкраплений, необходимых для операций поиска на основе моделей.

Обзор Dockerfile

На следующем этапе создается образ Docker с помощью Dockerfile. Этот файл необходим для развертывания приложения ИИ и SDK. В нем также указывается, какие файлы необходимо скопировать для подключения конечных точек.

Расходы

Расходы на услуги Azure

Не забывайте о сопутствующих расходах на использование Azure AI Foundry. Помните, что службы Azure AI работают на основе оплаты по факту, а цены зависят от выбранного вами плана для служб AI и Azure OpenAI.

ЧАСТО ЗАДАВАЕМЫЕ ВОПРОСЫ

Можно ли развернуть этот чатбот на других облачных платформах?

Хотя данное руководство предназначено для Azure, базовые принципы контейнеризации и основной дизайн чатбота могут быть изменены для других облачных платформ, таких как AWS или Google Cloud. Однако конкретные шаги по внедрению потребуют корректировки в соответствии с требованиями различных проектов.

Какие данные можно вводить в систему RAG?

Система RAG поддерживает различные форматы данных, такие как текстовые файлы, PDF-файлы и документы. Главное - правильно структурировать данные, чтобы Azure AI Search мог эффективно их индексировать и извлекать нужную информацию.

Похожие вопросы

Каковы основные соображения безопасности при развертывании чатбота ИИ?

Развертывание чат-бота с искусственным интеллектом, особенно работающего с конфиденциальной информацией, требует учета нескольких аспектов безопасности, чтобы обезопасить систему и пользователей:Шифрование данных: Шифруйте все данные, как в состоянии покоя, так и во время передачи. Используйте Azure Key Vault для управления ключами шифрования и конфиденциальными секретами. Данные в состоянии покоя - это информация, хранящаяся в базах данных, а данные при передаче - это информация, передаваемая по сети.Аутентификация и авторизация: Внедрите надежную аутентификацию для проверки личности пользователя. Используйте Azure Active Directory (Azure AD) для управления идентификацией и доступом. Используйте ключи API для контроля доступа к API.Проверка вводимых данных: Последовательно проверяйте и обеззараживайте все вводимые пользователем данные, чтобы защититься от инъекционных атак. Это включает в себя проверку и блокировку вредоносного кода или скриптов, которые могут нанести вред системе. Ведение журнала и мониторинг: Установите тщательное протоколирование и мониторинг, чтобы быстро выявлять и устранять проблемы безопасности. Для сбора и изучения журналов и данных о производительности можно использовать Azure Monitor. Их следует проверять на наличие признаков несанкционированного доступа, потенциальных утечек данных и слабых мест в системе.