NVIDIA는 기업이 사용자 정의 AI 에이전트를 만들 수 있도록 NEMO 소프트웨어 도구를 공개합니다.

Nvidia, 유명한 칩 제조사,는 수요일에 기업들이 "에이전트" 인공지능을 개발할 수 있도록 설계된 새로운 도구 세트의 일반 가용성을 발표했습니다. NeMo 마이크로서비스로 명명된 이 도구들은 Nvidia의 광범위한 AI Enterprise 소프트웨어 포트폴리오의 일부입니다. 이들은 콜센터 운영 강화부터 소프트웨어 개발 효율성 향상에 이르기까지 다양한 작업을 위해 AI 에이전트를 맞춤화하고 최적화하도록 설계되었습니다.

미디어 브리핑에서 Nvidia의 엔터프라이즈 생성 AI 책임자인 Joey Conway는 NeMo 소프트웨어를 AI 에이전트를 "디지털 직원"으로 배포하는 수단으로 설명했습니다. 그는 다양한 산업에 미칠 잠재적 영향을 강조하며, "우리가 보는 미래는 수십억 명의 지식 근로자가 다양한 산업, 지역, 위치에 걸쳐 존재한다는 것입니다. 그리고 우리의 관점은 디지털 직원, 즉 AI 에이전트가 이러한 다양한 도메인과 시나리오에서 기업이 더 많은 일을 처리할 수 있도록 도울 것이라는 점입니다."라고 말했습니다.

생산성 향상

Conway는 이러한 AI 에이전트가 이미 가져온 구체적인 생산성 이점에 대한 통찰을 공유했습니다. 예를 들어, 통신 회사용 소프트웨어 제공업체인 Amdocs는 NeMo 마이크로서비스를 활용하여 청구, 판매, 네트워크 에이전트를 개발했습니다. 고객 청구 문의를 처리하는 청구 에이전트는 "첫 통화 해결률"에서 50%의 상당한 증가를 달성하며 고객 서비스 효율성에 직접적인 영향을 미쳤습니다.

AI 에이전트가 디지털 직원으로 기능한다는 개념은 새로운 것이 아닙니다. 이는 지난 1년 동안 AI가 인간 직원처럼 기업 프로세스를 관리할 수 있다는 이야기가 주목받으며 떠오른 내러티브입니다. Nvidia는 5년 이상 NeMo 소프트웨어를 개선해왔으며, 기업을 위한 AI 모델 개발을 가속화하는 것을 목표로 하고 있습니다. 2022년에는 온디맨드 클라우드 기반의 사전 구축 AI 모델을 포함하도록 오퍼링을 확장했으며, 마이크로서비스는 지난 10월에 도입되었습니다.

새로운 마이크로서비스 구성 요소

NeMo의 툴킷에는 여러 마이크로서비스가 포함되어 있으며, 그중 Curator와 Retriever는 이미 사용 가능했습니다. Curator는 개발자가 AI 모델을 훈련시키거나 미세 조정하는 데 사용되는 데이터 세트를 정리하고 정제하기 위한 "파이프라인"을 구성하도록 돕습니다. 반면 Retriever는 텍스트, 그래픽, 차트 요소와 같은 데이터 소스에서 모델 사용에 관련된 요소를 추출합니다.

이를 보완하는 세 가지 새로운 구성 요소는 Customizer, Evaluator, Guardrails입니다. Customizer는 Curator의 출력을 받아 모델의 기능을 향상시키기 위해 사후 훈련 기술을 적용합니다. Evaluator는 자동화된 벤치마크로 작동하여 Customizer 이후 모델을 테스트하여 개선 사항이나 새로 획득한 기술을 평가합니다. Guardrails는 런타임에서 운영되어 기업 운영의 안전성을 보장하며 규정 준수를 보장합니다.

업데이트 및 새로운 능력 획득

NeMo의 철학은 모델을 이러한 마이크로서비스를 통해 반복적으로 순환시켜 지속적인 업데이트와 기술 획득을 가능하게 하는 것으로, Nvidia는 이를 "플라이휠"이라고 부릅니다. NeMo 마이크로서비스는 Nvidia의 배포 인프라 소프트웨어인 NIM(Nvidia Inference Microservices)과 통합되며, 이는 AI 모델을 Kubernetes와 같은 시스템으로 관리되는 애플리케이션 컨테이너에 캡슐화하고 API를 통해 접근할 수 있게 합니다.

Conway는 NeMo가 전통적으로 복잡했던 훈련, 사후 훈련, 평가, 수정 작업을 단순화한다고 강조했습니다. 그는 "NeMo 마이크로서비스의 초점은 이러한 마이크로서비스를 구축하여 나머지 생태계가 훨씬 빠르게 시작할 수 있도록 하는 것입니다. 우리의 경험에서 이것들이 꽤 복잡할 수 있다는 것을 보았습니다."라고 언급했습니다. 그는 또한 NeMo Evaluator가 다양한 오픈소스 라이브러리를 통합하고 업데이트하여 간단한 API 호출을 통해 더 안정적이고 사용하기 쉽게 만든다고 설명했습니다.