NVIDIA представляет программные инструменты NEMO для предприятий для создания пользовательских агентов ИИ

Nvidia, известный производитель чипов, объявил в среду о полной доступности нового набора инструментов, предназначенных для помощи предприятиям в разработке «агентного» искусственного интеллекта. Эти инструменты, получившие название NeMo microservices, являются частью более широкого портфеля программного обеспечения Nvidia AI Enterprise. Они разработаны для настройки и оптимизации ИИ-агентов для выполнения широкого спектра задач, от улучшения работы колл-центров до повышения эффективности разработки программного обеспечения.

Во время брифинга для СМИ Джоуи Конвей, руководитель направления генеративного ИИ для предприятий в Nvidia, описал программное обеспечение NeMo как средство для развертывания ИИ-агентов в качестве «цифровых сотрудников». Он подчеркнул потенциальное влияние на различные отрасли, заявив: «Мы считаем, что в будущем более миллиарда работников интеллектуального труда в различных отраслях, регионах и местах смогут использовать цифровых сотрудников, или ИИ-агентов, которые помогут предприятиям выполнять больше работы в самых разных областях и сценариях».

Рост производительности

Конвей поделился информацией о реальных преимуществах в производительности, которые уже принесли эти ИИ-агенты. Например, компания Amdocs, поставщик программного обеспечения для телекоммуникационных компаний, использовала NeMo microservices для разработки агентов по выставлению счетов, продажам и управлению сетями. Их агент по выставлению счетов, отвечающий за обработку запросов клиентов по счетам, достиг значительного увеличения «разрешения при первом обращении» на 50%, что демонстрирует прямое влияние на эффективность обслуживания клиентов.

Концепция ИИ-агентов, функционирующих как цифровые сотрудники, не нова. Эта идея набирает популярность в течение последнего года, и ИИ рассматривается как способный управлять корпоративными процессами подобно человеческим сотрудникам. Nvidia совершенствует свое программное обеспечение NeMo уже более пяти лет, стремясь ускорить разработку ИИ-моделей для бизнеса. В 2022 году они расширили свои предложения, включив в них готовые облачные ИИ-модели по запросу, а микросервисы были представлены в октябре прошлого года.

Новые компоненты микросервисов

Набор инструментов NeMo включает несколько микросервисов, два из которых, Curator и Retriever, уже были доступны. Curator помогает разработчикам создавать «конвейеры» для очистки и уточнения наборов данных, используемых для обучения или тонкой настройки ИИ-моделей. Retriever, в свою очередь, извлекает релевантные элементы из источников данных для использования моделью, такие как текст, графика и элементы диаграмм.

Эти инструменты дополняют три новых компонента: Customizer, Evaluator и Guardrails. Customizer принимает выходные данные от Curator и применяет методы пост-обучения для улучшения возможностей модели. Evaluator действует как автоматизированный тестовый стенд, проверяя модель после Customizer для оценки любых улучшений или новых навыков. Guardrails обеспечивает соответствие и безопасность, работая во время выполнения для защиты операций предприятия.

Обновление и приобретение новых возможностей

Философия NeMo заключается в многократном прохождении моделей через эти микросервисы, что позволяет постоянно обновлять их и приобретать новые навыки, процесс, который Nvidia называет «маховиком». Микросервисы NeMo интегрируются с программным обеспечением инфраструктуры развертывания Nvidia, NIM (Nvidia Inference Microservices), которое инкапсулирует ИИ-модели в контейнеры приложений, управляемые системами, такими как Kubernetes, и доступные через API.

Конвей подчеркнул, что NeMo упрощает традиционно сложные задачи обучения, пост-обучения, оценки и пересмотра ИИ-моделей. Он отметил: «Основное внимание в микросервисах NeMo уделяется созданию таких микросервисов, чтобы остальная экосистема могла начать работу гораздо быстрее. По нашему опыту, эти процессы могут быть довольно сложными». Он также пояснил, что Evaluator NeMo консолидирует и обновляет различные библиотеки с открытым исходным кодом, делая их более надежными и простыми в использовании через простые вызовы API.