Nvidia tiết lộ các công cụ phần mềm NEMO cho các doanh nghiệp để tạo các đại lý AI tùy chỉnh

Nvidia, người khổng lồ chip nổi tiếng, đã công bố vào thứ Tư về tính sẵn có chung của một bộ công cụ mới được thiết kế để giúp các doanh nghiệp phát triển trí tuệ nhân tạo "tác nhân". Những công cụ này, được mệnh danh là Nemo Microservice, là một phần của danh mục phần mềm AI Enterprise rộng lớn hơn của NVIDIA. Chúng được chế tạo để tùy chỉnh và tối ưu hóa các tác nhân AI cho một loạt các tác vụ, từ tăng cường hoạt động của trung tâm cuộc gọi đến tăng hiệu quả phát triển phần mềm.

Trong một cuộc họp báo truyền thông, Joey Conway, người đứng đầu AI của NVIDIA cho doanh nghiệp, đã mô tả phần mềm NEMO như một phương tiện để triển khai các đại lý AI như "nhân viên kỹ thuật số". Ông nhấn mạnh tác động tiềm năng trong các ngành công nghiệp, nói rằng "Quan điểm của chúng tôi về nơi chúng tôi thấy mọi thứ diễn ra là có hơn một tỷ nhân viên tri thức trong nhiều ngành công nghiệp, địa lý và địa điểm. Và quan điểm của chúng tôi là nhân viên kỹ thuật số hoặc đại lý AI, sẽ có thể giúp các doanh nghiệp thực hiện nhiều công việc hơn trong các lĩnh vực và kịch bản khác nhau này."

Tăng năng suất

Conway chia sẻ những hiểu biết về lợi ích năng suất hữu hình mà các tác nhân AI này đã mang đến bàn. Chẳng hạn, AMDOCS, một nhà cung cấp phần mềm cho các công ty viễn thông, đã khai thác các dịch vụ vi mô NEMO để phát triển hóa đơn, bán hàng và đại lý mạng. Đại lý thanh toán của họ, được giao nhiệm vụ xử lý các yêu cầu thanh toán của khách hàng, đạt được mức tăng đáng kể 50% trong "Nghị quyết cuộc gọi đầu tiên", thể hiện tác động trực tiếp đến hiệu quả dịch vụ khách hàng.

Khái niệm về các đại lý AI hoạt động như nhân viên kỹ thuật số không phải là mới. Đó là một câu chuyện đã đạt được lực kéo trong năm qua, với AI được coi là có khả năng quản lý các quy trình của công ty giống như nhân viên của con người. NVIDIA đã tinh chỉnh phần mềm NEMO của mình trong hơn năm năm, nhằm mục đích đẩy nhanh sự phát triển của các mô hình AI cho các doanh nghiệp. Vào năm 2022, họ đã mở rộng các dịch vụ của mình để bao gồm các mô hình AI được xây dựng sẵn trên đám mây theo yêu cầu, với các dịch vụ microservice được giới thiệu vào tháng 10 năm ngoái.

Các thành phần Microservice mới

Bộ công cụ của NEMO bao gồm một số dịch vụ microser, hai trong số đó, người phụ trách và retriever, đã có sẵn. Giám tuyển giúp các nhà phát triển xây dựng "đường ống" để làm sạch và tinh chỉnh các bộ dữ liệu được sử dụng để đào tạo hoặc tinh chỉnh các mô hình AI. Mặt khác, trích xuất các phần tử liên quan từ các nguồn dữ liệu để sử dụng mô hình, chẳng hạn như văn bản, đồ họa và các yếu tố biểu đồ.

Bổ sung cho đây là ba thành phần mới: tùy biến, người đánh giá và bảo vệ. Bộ tùy chỉnh lấy đầu ra từ người quản lý và áp dụng các kỹ thuật sau đào tạo để tăng cường khả năng của mô hình. Người đánh giá hoạt động như một điểm chuẩn tự động, kiểm tra mô hình sau-người tùy lập để đánh giá bất kỳ cải tiến hoặc kỹ năng mới nào có được. GuardRails đảm bảo tuân thủ và an toàn bằng cách hoạt động tại thời gian chạy để bảo vệ các hoạt động doanh nghiệp.

Cập nhật và đạt được các khả năng mới

Triết lý đằng sau NEMO là đạp xe thông qua các dịch vụ vi mô này nhiều lần, cho phép cập nhật liên tục và thu nhận kỹ năng, một quy trình NVIDIA gọi là "bánh đà". Các dịch vụ vi mô NEMO tích hợp với phần mềm cơ sở hạ tầng triển khai của NVIDIA, NIM (NVIDIA Pr chứng minh microservice), gói gọn các mô hình AI trong các thùng chứa ứng dụng được quản lý bởi các hệ thống như Kubernetes và được truy cập thông qua API.

Conway nhấn mạnh rằng NEMO đơn giản hóa các nhiệm vụ phức tạp truyền thống của đào tạo, đào tạo, đánh giá và sửa đổi các mô hình AI. Ông lưu ý: "Trọng tâm cho các dịch vụ vi mô NEMO có thể xây dựng các dịch vụ vi mô này để phần còn lại của hệ sinh thái có thể bắt đầu nhanh hơn nhiều. Từ kinh nghiệm của chúng tôi, chúng tôi đã thấy rằng những thứ này có thể khá phức tạp." Ông giải thích thêm rằng Trình đánh giá NEMO hợp nhất và cập nhật các thư viện nguồn mở khác nhau, giúp chúng đáng tin cậy hơn và dễ sử dụng hơn thông qua các cuộc gọi API đơn giản.