2025년에 Azure AI Foundry를 사용하여 AI 챗봇을 빌드하는 방법은 무엇인가요? 단계별 가이드를 확인하세요.

AI 챗봇을 만드는 것은 어려워 보일 수 있지만 올바른 도구와 접근 방식을 사용하면 충분히 달성할 수 있습니다. 이 심층 가이드에서는 Azure AI Foundry를 사용하여 챗봇을 빌드하고, 검색 증강 생성(RAG)을 위한 Azure AI Search로 지식을 향상시키고, 원활한 배포를 위해 간소화된 컨테이너화를 사용하는 방법을 안내합니다. 프로세스를 명확하고 실행 가능한 단계로 단순화하여 챗봇을 프로덕션 환경에 맞게 준비할 수 있습니다.

핵심 사항

Azure AI Foundry의 기본 제공 템플릿을 사용하여 챗봇 개발을 가속화하세요.

개인 데이터로 챗봇의 지식 기반을 강화하기 위해 Azure AI Search for RAG를 통합하세요.

Docker로 컨테이너화를 적용하여 다양한 설정에서 균일한 배포를 보장합니다.

챗봇을 Azure 컨테이너 인스턴스(ACI)에 배포하여 공개적으로 사용할 수 있도록 하세요.

잠재적인 배포 장애를 인식하고 해결합니다.

Azure로 AI 챗봇 만들기

단계 설정하기: LLM에서 챗봇으로

정교한 AI 챗봇을 개발하려면 LLM(대규모 언어 모델), 개인 데이터 집합, RAG(검색 증강 생성) 프레임워크와 같은 기본 요소부터 시작해야 합니다. 목표는 특정 정보에 액세스하고 사용자와 자연스럽게 상호 작용할 수 있는 챗봇을 만드는 것입니다. 이미 AI 검색에 능숙하고 작동하는 RAG 시스템을 갖추고 있다고 가정해 보세요. Azure는 이러한 격차를 해소할 수 있는 리소스를 제공합니다. 이 가이드에서는 사용자가 AI 애플리케이션에 적극적으로 액세스하고 사용할 수 있는 프로덕션 준비 상태로 솔루션을 전환하는 방법을 설명합니다.

Azure AI Foundry는 이러한 구성 요소를 통합하기 위한 강력한 플랫폼 역할을 합니다. Azure 서비스를 통해 원시 데이터를 완전히 작동하는 챗봇으로 변환하는 방법을 보여드리겠습니다. 이 자습서에서는 Azure, Azure AI Search, GitHub 리포지토리(Azure-Samples/get-started-with-ai-chat) 및 Microsoft Azure 에코시스템을 중심으로 설명합니다. 목표는 다음과 같습니다:

• Python을 사용하여 로컬에서 코드를 개발합니다.
• Docker 이미지를 빌드하고 컨테이너를 실행합니다.
• 컨테이너 레지스트리에 이미지를 업로드합니다.
• 컨테이너 레지스트리에서 전 세계 액세스를 위해 Azure 컨테이너 인스턴스에 배포합니다.

1부: 1부: 로컬 개발 및 설정

초기 단계에서는 필요한 기술로 로컬 개발 환경을 준비합니다. AI Foundry 내에서 템플릿을 사용자 지정할 수도 있습니다:

. 또한 GitHub에서 프로젝트를 생성하고 수정하여 기능을 향상시킵니다.

코딩에는 Python을 사용하며, Cursor와 같은 IDE를 사용하는 것이 이상적입니다. 이 단계에는 다음이 포함됩니다:

1. Azure AI 채팅 리포지토리 포크: GitHub에서 Azure-Samples/get-started-with-ai-chat 리포지토리를 포크합니다. 이 리포지토리는 챗봇 프로젝트의 기본 코드를 제공합니다. 이 템플릿은 Azure AI Foundry 및 SDK를 사용하여 채팅 애플리케이션을 배포하기 위한 간단한 시작점을 제공합니다.
2. 로컬 환경 만들기: 환경 파일(.env)을 설정하여 API 키 및 구성 세부 정보를 안전하게 저장합니다.
3. 코드 사용자 지정: 포크 및 환경 설정 후 특정 요구 사항에 맞게 코드를 수정합니다.

AI 파운드리 플랫폼 살펴보기

로컬 설정이 완료되면 Azure AI Foundry에서 제공되는 템플릿을 사용하여 계속 진행할 수 있습니다. 이 플랫폼은 AI 애플리케이션 코딩을 간소화합니다. 시작하려면 'AI Chat 시작하기' 옵션을 선택합니다. 그러면 리포지토리가 GitHub 계정으로 성공적으로 포크되었음을 확인할 수 있습니다.

이러한 템플릿을 사용하면 애플리케이션에 통합할 수 있도록 미리 빌드된 AI 코드를 사용하여 챗봇을 구축할 수 있습니다. 또는 템플릿을 자체 환경에 복제하여 시작점으로 사용할 수도 있습니다.

AI 검색 및 Azure 모델로 작업하기

구성

코드를 실행하고 Docker를 설정하기 전에 환경을 구성해야 합니다. 제공된 .env.sample 템플릿을 사용하여 .env 파일을 만들고 환경 키를 업데이트하세요. 다음은 엔드포인트를 연결하기 위한 Azure Search 프로젝트의 구성 예시입니다.

:

AZURE_AI_SEARCH_ENDPOINT=AZURE_AI_SEARCH_INDEX_NAME=AZURE_AI_SEARCH_API_KEY=AZURE_AI_EMBEDDINGS_DEPLOYMENT_NAME= (인덱스 검색에 필요)AZURE_AI_OPENAI_ENDPOINT=AZURE_AI_OPENAI_API_KEY=AZURE_AI_OPENAI_MODEL_NAME=

Docker 배포를 위한 컨테이너를 만들기 전에 벡터 구성에 임베딩 필드를 설정해야 합니다. 모든 구성 요소가 로컬 환경에서 올바르게 작동하는지 확인하기 위해 벡터 구성을 설정해 보겠습니다. 인덱스를 만들 때 청킹을 추가하고 벡터를 테스트하여 설정이 완료되었는지 확인할 수 있습니다.

다음은 구성 변수에 대한 분석입니다:

• AZURE"_AI"_SEARCH"_ENDPOINT: 검색 리소스에 연결하는 데 사용되는 Azure AI Search 서비스의 엔드포인트 URL입니다.
• AZURE"_AI"_Search"_INDEX"_NAME: 데이터가 구성되고 저장되는 Azure AI Search 내 인덱스의 이름입니다.
• AZURE"_AI"_SEARCH"_API"_KEY: 모델을 엔드포인트에 연결하여 Azure AI Search에 대한 연결을 인증하는 데 필요한 API 키입니다.
• AZURE"_AI"_EMBEDDINGS"_DEPLOYMENT"_NAME: 모델 기반 검색 작업에 필요한 텍스트 임베딩을 연결하고 제공하는 데 사용됩니다.

도커 파일 개요

다음 단계는 도커파일을 사용하여 도커 이미지를 빌드하는 것입니다. 이 파일은 AI 애플리케이션과 SDK를 배포하는 데 필수적입니다. 또한 엔드포인트 연결을 위해 복사할 파일을 지정합니다.

비용 고려 사항

Azure 서비스 비용

Azure AI Foundry 사용 시 관련 비용을 염두에 두어야 합니다. Azure AI 서비스는 종량제 방식으로 운영되며, 선택한 AI 및 Azure OpenAI 서비스 플랜에 따라 가격이 달라진다는 점을 기억하세요.

FAQ

이 챗봇을 다른 클라우드 플랫폼에 배포할 수 있나요?

이 가이드는 Azure에 맞춰져 있지만 기본 컨테이너화 원칙과 핵심 챗봇 디자인은 AWS 또는 Google Cloud와 같은 다른 클라우드 플랫폼에 맞게 수정할 수 있습니다. 하지만 구체적인 구현 단계는 프로젝트 요구 사항에 맞게 조정해야 합니다.

RAG 시스템으로 어떤 종류의 데이터를 수집할 수 있나요?

RAG 시스템은 텍스트 파일, PDF, 문서 등 다양한 데이터 형식을 수용합니다. 중요한 요소는 데이터를 적절하게 구조화하여 Azure AI Search가 효율적으로 색인을 생성하고 관련 정보를 검색할 수 있도록 하는 것입니다.

관련 질문

AI 챗봇을 배포할 때 주요 보안 고려 사항은 무엇인가요?

AI 챗봇, 특히 중요한 정보를 처리하는 챗봇을 배포하려면 시스템과 사용자를 보호하기 위해 다음과 같은 몇 가지 보안 측면을 해결해야 합니다. 데이터 암호화: 미사용 및 전송 중 모든 데이터를 암호화하세요. Azure Key Vault를 활용하여 암호화 키 및 중요한 비밀을 관리하세요. 미사용 데이터는 데이터베이스에 저장된 정보를 의미하며 전송 중인 데이터는 네트워크를 통해 전송되는 정보입니다.인증 및 권한 부여: 강력한 인증을 구현하여 사용자 ID를 확인합니다. ID 및 액세스 관리를 위해 Azure AD(Azure Active Directory)를 활용하세요. API 키를 사용하여 API에 대한 액세스를 제어하세요.입력 유효성 검사: 모든 사용자 입력을 일관되게 검증하고 살균하여 인젝션 공격을 방지하세요. 여기에는 시스템에 해를 끼칠 수 있는 악성 코드나 스크립트를 검사하고 차단하는 작업이 포함됩니다. 로깅 및 모니터링: 철저한 로깅 및 모니터링을 설정하여 보안 문제를 신속하게 식별하고 해결하세요. Azure Monitor를 사용하여 로그 및 성능 데이터를 수집하고 검토할 수 있습니다. 무단 액세스, 잠재적인 데이터 침해 및 시스템 약점의 징후가 있는지 검토해야 합니다.