DAPR tăng cường các dịch vụ microser với hỗ trợ AI Agent

Quay trở lại vào năm 2019, Microsoft đã có một bước táo bạo bằng DAPR nguồn mở, một thời gian chạy được thiết kế để đơn giản hóa việc phát triển các ứng dụng dựa trên microservice phân tán. Vào thời điểm đó, các đặc vụ AI không ở trên radar, nhưng DAPR đã đặt nền tảng cho họ. Một tính năng chính của DAPR là việc sử dụng các tác nhân ảo, có thể xử lý độc lập và xử lý các thông điệp, thiết lập giai đoạn cho những gì sau này trở nên quan trọng đối với các tác nhân AI.

Chuyển nhanh đến ngày hôm nay, và nhóm DAPR rất vui mừng được giới thiệu các đại lý DAPR, một sáng kiến ​​mới nhằm giúp các nhà phát triển xây dựng các đại lý AI dễ dàng hơn. Theo Yaron Schneider, một đồng sáng lập và bảo trì DAPR, "các đại lý là một trường hợp sử dụng rất tốt cho DAPR." Ông giải thích rằng các diễn viên của DAPR cung cấp một cách nhẹ, có thể mở rộng và tiết kiệm tài nguyên để điều hành các đại lý này, nhưng vẫn còn rất nhiều logic kinh doanh mà các nhà phát triển cần phải xử lý. Trong khi các khung khác tồn tại, DAPR nổi bật với khả năng điều phối và trạng thái mạnh mẽ của nó.

Mark Fussell, một người đồng sáng tạo và bảo trì DAPR khác, coi các hệ thống tác nhân là một thuật ngữ mới cho các hệ thống phân tán. Ông lưu ý, "Thay vì gọi chúng là microservice, bạn có thể gọi chúng là đại lý ngay bây giờ, chủ yếu là vì bạn có thể đặt các mô hình ngôn ngữ lớn trong số chúng." Nhóm nghiên cứu nhấn mạnh sự cần thiết của một công cụ phối hợp và trạng thái để phối hợp các tác nhân này một cách hiệu quả, mà DAPR cung cấp. Các diễn viên của DAPR được thiết kế để có hiệu quả cao, có khả năng khởi động bằng mili giây để xử lý một thông điệp và ngừng hoạt động trong khi bảo tồn trạng thái của họ sau khi nhiệm vụ của họ hoàn tất.

Hiện tại, các đại lý DAPR có thể tích hợp liền mạch với các nhà cung cấp mô hình phổ biến như AWS Bedrock, Openai, Nhân chủng học, Mistral và Hugging Face, với sự hỗ trợ cho LLM địa phương trên đường chân trời. Ngoài tương tác mô hình, các tác nhân DAPR tận dụng khung DAPR hiện có, cho phép các nhà phát triển xác định các công cụ mà các tác nhân có thể sử dụng để hoàn thành các nhiệm vụ.

Hiện tại, các đại lý DAPR hỗ trợ Python, với sự hỗ trợ của .NET sắp ra mắt, tiếp theo là Java, JavaScript và Go. Mở rộng này nhằm mục đích biến các tác nhân DAPR thành một công cụ đa năng cho các nhà phát triển muốn khai thác sức mạnh của các tác nhân AI trong các ứng dụng của họ.