Wie baut man einen KI-Chatbot mit Azure AI Foundry im Jahr 2025? Schritt-für-Schritt-Anleitung.

Die Erstellung eines KI-Chatbots mag schwierig erscheinen, ist aber mit den richtigen Tools und dem richtigen Ansatz durchaus machbar. Dieser ausführliche Leitfaden führt Sie durch die Erstellung eines Chatbots mit Azure AI Foundry, die Erweiterung seines Wissens mit Azure AI Search für Retrieval-Augmented Generation (RAG) und die Verwendung einer optimierten Containerisierung für eine reibungslose Bereitstellung. Wir vereinfachen den Prozess in klare, umsetzbare Schritte, um Ihren Chatbot für eine Produktionsumgebung vorzubereiten.

Wichtige Punkte

Nutzen Sie die integrierten Vorlagen von Azure AI Foundry, um die Chatbot-Entwicklung zu beschleunigen.

Integrieren Sie Azure AI Search for RAG, um die Wissensbasis Ihres Chatbots mit privaten Daten anzureichern.

Wenden Sie Containerisierung mit Docker an, um eine einheitliche Bereitstellung über verschiedene Setups hinweg zu gewährleisten.

Stellen Sie den Chatbot auf Azure Container Instances (ACI) bereit, um ihn öffentlich verfügbar zu machen.

Erkennen und Beseitigen potenzieller Bereitstellungshindernisse.

Erstellen Ihres KI-Chatbots mit Azure

Die Bühne bereiten: Von LLMs zu Chatbots

Die Entwicklung eines anspruchsvollen KI-Chatbots beginnt mit grundlegenden Elementen: einem Large Language Model (LLM), einem privaten Datensatz und einem Retrieval-Augmented Generation (RAG)-Framework. Ziel ist es, einen Chatbot zu entwickeln, der in der Lage ist, auf spezifische Informationen zuzugreifen und mit den Benutzern auf natürliche Weise zu interagieren. Stellen Sie sich vor, Sie kennen sich bereits mit der KI-Suche aus und haben ein funktionierendes RAG-System - was kommt als nächstes? Azure bietet die Ressourcen, um diese Lücke zu schließen. In diesem Leitfaden wird erläutert, wie Sie Ihre Lösung in einen produktionsreifen Zustand überführen, in dem Benutzer aktiv auf Ihre KI-Anwendung zugreifen und sie nutzen können.

Azure AI Foundry dient als leistungsstarke Plattform für die Integration dieser Komponenten. Wir zeigen, wie Azure-Dienste Rohdaten in einen voll funktionsfähigen Chatbot umwandeln können. Dieses Tutorial konzentriert sich auf Azure, Azure AI Search, das GitHub Repository (Azure-Samples/get-started-with-ai-chat) und das Microsoft Azure Ökosystem. Hier ist, was wir erreichen wollen:

• Entwickeln Sie Code lokal mit Python.
• Erstellen Sie ein Docker-Image und führen Sie den Container aus.
• Hochladen des Images in eine Container-Registry.
• Deployment von der Container-Registry zu Azure Container Instances für den weltweiten Zugriff.

Teil 1: Lokale Entwicklung und Einrichtung

Unsere erste Phase umfasst die Vorbereitung der lokalen Entwicklungsumgebung mit den erforderlichen Technologien. Sie können auch Vorlagen innerhalb von AI Foundry anpassen:

. Wir werden auch das Projekt in GitHub erstellen und ändern, um seine Funktionalität zu verbessern.

Wir werden Python für die Kodierung verwenden, idealerweise in einer IDE wie Cursor. Diese Phase beinhaltet:

1. Forken des Azure AI Chat Repository: Forken Sie das Azure-Samples/get-started-with-ai-chat Repository von GitHub. Dieses Repository enthält den grundlegenden Code für das Chatbot-Projekt. Die Vorlage bietet einen einfachen Startpunkt für die Bereitstellung von Chat-Anwendungen mit Azure AI Foundry und SDKs.
2. Erstellen einer lokalen Umgebung: Richten Sie eine Umgebungsdatei (.env) ein, um Ihre API-Schlüssel und Konfigurationsdetails sicher zu speichern.
3. Anpassen des Codes: Nach dem Forking und der Einrichtung der Umgebung können Sie den Code an Ihre spezifischen Anforderungen anpassen.

Eintauchen in die AI Foundry-Plattform

Sobald die lokale Einrichtung abgeschlossen ist, können Sie mit den in Azure AI Foundry verfügbaren Vorlagen fortfahren. Diese Plattform vereinfacht die Codierung von KI-Anwendungen. Wählen Sie die Option "Get Started with AI Chat", um zu beginnen. Dadurch wird bestätigt, dass das Repository erfolgreich auf Ihr GitHub-Konto geforkt wurde.

Mit diesen Vorlagen können Sie einen Chatbot mit vorgefertigtem KI-Code konstruieren, der in Ihre Anwendungen integriert werden kann. Alternativ können Sie die Vorlagen auch als Ausgangspunkt in Ihre eigene Umgebung klonen.

Arbeiten mit AI Search und Azure Models

Konfiguration

Bevor wir den Code ausführen und Docker einrichten, müssen wir die Umgebung konfigurieren. Erstellen Sie eine .env-Datei unter Verwendung der mitgelieferten .env.sample-Vorlage und aktualisieren Sie die Umgebungsschlüssel. Nachfolgend finden Sie eine Beispielkonfiguration für ein Azure Search-Projekt zur Verbindung von Endpunkten

:

AZURE_AI_SEARCH_ENDPOINT=AZURE_AI_SEARCH_INDEX_NAME=AZURE_AI_SEARCH_API_KEY=AZURE_AI_EMBEDDINGS_DEPLOYMENT_NAME= (erforderlich für Indexsuche)AZURE_AI_OPENAI_ENDPOINT=AZURE_AI_OPENAI_API_KEY=AZURE_AI_OPENAI_MODEL_NAME=

Bevor der Container für die Docker-Bereitstellung erstellt wird, muss ein Einbettungsfeld in der Vektorkonfiguration eingerichtet werden. Lassen Sie uns die Vektorkonfiguration einrichten, um zu überprüfen, ob alle Komponenten in der lokalen Umgebung korrekt funktionieren. Bei der Erstellung des Indexes können Sie Chunking hinzufügen und den Vektor testen, um zu bestätigen, dass die Einrichtung vollständig ist.

Hier ist eine Aufschlüsselung der Konfigurationsvariablen:

• AZURE"_AI"_SEARCH"_ENDPOINT: Die Endpunkt-URL für Ihren Azure AI Search-Dienst, die für die Verbindung mit Ihren Suchressourcen verwendet wird.
• AZURE"_AI"_SEARCH"_INDEX"_NAME: Der Name des Indexes innerhalb von Azure AI Search, in dem Ihre Daten organisiert und gespeichert sind.
• AZURE"_AI"_SEARCH"_API"_KEY: Der API-Schlüssel, der für die Authentifizierung von Verbindungen zu Azure AI Search erforderlich ist und Ihre Modelle mit den Endpunkten verknüpft.
• AZURE"_AI"_EMBEDDINGS"_DEPLOYMENT"_NAME: Dies wird für die Verbindung und Bereitstellung von Texteinbettungen verwendet, die für modellbasierte Suchvorgänge erforderlich sind.

Dockerfile-Übersicht

In der nächsten Phase wird das Docker-Image mithilfe einer Dockerdatei erstellt. Diese Datei ist für die Bereitstellung der KI-Anwendung und der SDKs unerlässlich. Sie gibt auch an, welche Dateien für Endpunktverbindungen zu kopieren sind.

Kostenüberlegungen

Kosten für Azure-Dienste

Beachten Sie die Kosten, die mit der Nutzung von Azure AI Foundry verbunden sind. Denken Sie daran, dass Azure AI-Services auf einer Pay-as-you-go-Basis funktionieren, wobei die Preise von dem von Ihnen gewählten Plan für AI- und Azure OpenAI-Services abhängen.

FAQ

Kann ich diesen Chatbot auch auf anderen Cloud-Plattformen einsetzen?

Obwohl dieser Leitfaden auf Azure zugeschnitten ist, können die zugrundeliegenden Containerisierungsprinzipien und das zentrale Chatbot-Design für andere Cloud-Plattformen wie AWS oder Google Cloud modifiziert werden. Die spezifischen Implementierungsschritte müssten jedoch an die unterschiedlichen Projektanforderungen angepasst werden.

Welche Art von Daten kann ich in das RAG-System einspeisen?

Das RAG-System unterstützt eine Vielzahl von Datenformaten, wie z.B. Textdateien, PDFs und Dokumente. Entscheidend ist, dass Sie Ihre Daten entsprechend strukturieren, damit Azure AI Search sie effizient indizieren und relevante Informationen abrufen kann.

Verwandte Fragen

Was sind die wichtigsten Sicherheitsüberlegungen für die Bereitstellung eines KI-Chatbots?

Bei der Bereitstellung eines KI-Chatbots, insbesondere bei der Verarbeitung sensibler Daten, müssen mehrere Sicherheitsaspekte berücksichtigt werden, um Ihr System und Ihre Benutzer zu schützen:Datenverschlüsselung: Verschlüsseln Sie alle Daten, sowohl im Ruhezustand als auch während der Übertragung. Verwenden Sie Azure Key Vault, um Verschlüsselungsschlüssel und sensible Geheimnisse zu verwalten. Daten im Ruhezustand beziehen sich auf gespeicherte Informationen in Datenbanken, während Daten bei der Übertragung Informationen sind, die über Netzwerke gesendet werden.Authentifizierung und Autorisierung: Implementieren Sie eine starke Authentifizierung, um Benutzeridentitäten zu verifizieren. Nutzen Sie Azure Active Directory (Azure AD) für die Identitäts- und Zugriffsverwaltung. Verwenden Sie API-Schlüssel, um den Zugriff auf Ihre APIs zu kontrollieren.Eingabevalidierung: Validieren und bereinigen Sie konsequent alle Benutzereingaben, um sich vor Injektionsangriffen zu schützen. Dies beinhaltet die Überprüfung und Blockierung von bösartigem Code oder Skripten, die das System schädigen könnten. Protokollierung und Überwachung: Richten Sie eine gründliche Protokollierung und Überwachung ein, um Sicherheitsprobleme schnell zu erkennen und zu beheben. Azure Monitor kann eingesetzt werden, um Protokolle und Leistungsdaten zu sammeln und zu untersuchen. Diese sollten auf Anzeichen von unbefugtem Zugriff, potenziellen Datenverletzungen und Systemschwächen überprüft werden.