如何在 2025 年使用 Azure AI Foundry 建立 AI 聊天機？分步指南。

建立 AI 聊天機器人可能看起來很有挑戰性，但只要有正確的工具和方法，是完全可以做到的。本深入指南將教您如何使用 Azure AI Foundry 建立聊天機器人、使用 Azure AI Search 增強其知識以進行檢索增強生成 (RAG)，以及使用簡化的容器化以順利部署。我們會將流程簡化為清晰、可行的步驟，讓您的聊天機器人為生產環境做好準備。

重點

使用 Azure AI Foundry 的內建模板加速聊天機器人開發。

結合 Azure AI Search for RAG，以私人資料豐富聊天機器人的知識庫。

使用 Docker 進行容器化，以確保在不同的設定中統一部署。

將聊天機部署到 Azure Container Instances (ACI) 以供公開使用。

辨識並解決潛在的部署障礙。

使用 Azure 建立您的 AI 聊天機器人

設定舞台：從 LLM 到聊天機器人

開發複雜的 AI 聊天機要從基本要素開始：大型語言模型 (LLM)、私人資料集和檢索增強世代 (RAG) 架構。目標是建立一個聊天機器人，能夠以自然的方式存取特定資訊並與使用者互動。假設您已經精通 AI 搜尋，並擁有可運作的 RAG 系統，接下來該怎麼辦？Azure 提供了縮短差距的資源。本指南將解釋如何將您的解決方案轉換至生產就緒狀態，讓使用者可以主動存取並使用您的 AI 應用程式。

Azure AI Foundry是整合這些元件的強大平台。我們將示範 Azure 服務如何將原始資料轉換為可完全運作的聊天機器人。本教學以 Azure、Azure AI Search、GitHub 儲存庫 (Azure-Samples/get-started-with-ai-chat) 以及 Microsoft Azure 生態系統為中心。以下是我們的目標：

• 使用 Python 在本機開發程式碼。
• 建立 Docker 映像並執行容器。
• 將映像上傳到容器註冊表。
• 從容器註冊表部署至 Azure 容器實體，以便全球存取。

第 1 部分：本機開發與設定

我們的初始階段包括使用所需技術準備本機開發環境。您也可以在 AI Foundry 內自訂範本：

.我們也會在 GitHub 中建立並修改專案，以強化其功能。

我們將使用 Python 進行編碼，最好是在 Cursor 之類的 IDE 中進行編碼。此階段包括

1. 分支 Azure AI Chat Repository：從 GitHub 分支 Azure-Samples/get-started-with-ai-chat 套件庫。此套件庫提供聊天機器人專案的基礎程式碼。該範本提供使用 Azure AI Foundry 和 SDK 部署聊天應用程式的簡單起點。
2. 建立本機環境：設定環境檔案 (.env)，以安全地儲存 API 金鑰和組態詳細資訊。
3. 自訂程式碼：在分叉與環境設定之後，修改程式碼以符合您的特定需求。

進入 AI Foundry 平台

本機設定完成後，您就可以使用 Azure AI Foundry 提供的範本繼續進行。此平台可簡化 AI 應用程式編碼。選擇「Get Started with AI Chat」選項開始。這會確認儲存庫已成功 fork 到您的 GitHub 帳戶。

有了這些範本，您就可以使用預先建立的 AI 程式碼來建構聊天機器人，以便整合到您的應用程式中。或者，將這些範本複製到您自己的環境，作為起點。

使用 AI Search 和 Azure 模型

設定

在執行程式碼和設定 Docker 之前，我們必須先設定環境。使用提供的 .env.sample 模版建立 .env 檔案，並更新環境金鑰。以下是 Azure Search 專案連接端點的配置範例

:

AZURE_AI_SEARCH_ENDPOINT=AZURE_AI_SEARCH_INDEX_NAME=AZURE_AI_SEARCH_API_KEY=AZURE_AI_EMBEDDINGS_DEPLOYMENT_NAME= (索引搜尋所需)AZURE_ AI_OPENAI_ENDPOINT= AZURE_AI_OPENAI_API_KEY=AZURE_AI_OPENAI_MODEL_NAME=。

在為 Docker 部署建立容器之前，必須在向量配置中建立嵌入欄位。讓我們建立向量配置，以驗證所有元件在本機環境中運作正常。建立索引時，您可以加入分塊並測試向量，確認設定完成。

以下是配置變數的細目：

• AZURE"_AI"_SEARCH"_ENDPOINT：您的 Azure AI Search 服務的端點 URL，用於連線到您的搜尋資源。
• azure"_ai"_search"_index"_name：Azure AI Search 內組織和儲存資料的索引名稱。
• AZURE"_AI"_SEARCH"_API"_KEY：驗證與 Azure AI Search 連線所需的 API 金鑰，可將您的模型連結至端點。
• AZURE"_AI"_EMBEDDINGS"_DEPLOYMENT"_NAME：用來連結並提供基於模型的搜尋作業所需的文字嵌入。

Dockerfile 總覽

下一個階段涉及使用 Dockerfile 建立 Docker 映像檔。此檔案對於部署 AI 應用程式和 SDK 非常重要。它也會指定要複製哪些檔案來進行端點連接。

成本考慮

Azure 服務成本

請注意使用 Azure AI Foundry 的相關成本。請記住，Azure AI 服務以隨用隨付的方式運作，定價取決於您所選擇的 AI 和 Azure OpenAI 服務計劃。

常見問題

我可以將這個聊天機器人部署到其他雲端平台嗎？

雖然本指南是為 Azure 量身打造，但是底層的容器化原則和核心聊天機設計可以修改為其他雲端平台，例如 AWS 或 Google Cloud。不過，具體的執行步驟需要調整，以符合不同的專案需求。

我可以將哪些資料匯入 RAG 系統？

RAG 系統可容納各種資料格式，例如文字檔、PDF 和文件。關鍵因素是要適當地架構您的資料，以便 Azure AI Search 能夠有效率地編制索引並擷取相關資訊。

相關問題

部署 AI 聊天機器人的主要安全考量為何？

部署 AI 聊天機器人，尤其是處理敏感資訊的 AI 聊天機器人，需要處理幾個安全層面，以保護您的系統和使用者：資料加密：加密所有資料，無論是在靜止狀態或傳輸過程中。利用 Azure Key Vault 管理加密金鑰和敏感機密。靜態資料是指儲存在資料庫中的資訊，而傳輸中的資料是指跨網路傳送的資訊：實施強大的驗證以驗證使用者身份。利用 Azure Active Directory (Azure AD) 進行身分與存取管理。使用 API 金鑰來控制 API 的存取：持續驗證並清除所有使用者輸入，以防範注入攻擊。這包括檢查並阻止可能損害系統的惡意程式碼或指令碼。記錄與監控：建立徹底的記錄和監控，以快速識別和處理安全問題。Azure Monitor 可用於收集和檢查日誌與效能資料。應檢閱這些資料，以找出未經授權存取、潛在資料外洩和系統弱點的跡象。