Llamaindex tiết lộ dịch vụ đám mây cho các tác nhân dữ liệu phi cấu trúc

Các đại lý AI là tất cả những cơn thịnh nộ trong những ngày này, và trong khi mọi người đều tự mình thực hiện những gì họ đang có, ý chính là các công cụ AI có thể tự mình làm. Buzz xung quanh các đại lý khá dữ dội, nhưng một công ty, Llamaindex, đã đi trước đường cong. Bắt đầu bởi các nhà khoa học nghiên cứu cũ Jerry Liu và Simon Suo trở lại vào năm 2023, Llamaindex giúp các nhà phát triển đánh bật các tác nhân tùy chỉnh có thể làm việc với dữ liệu không có cấu trúc.

"Llamaindex đã khởi động như một dự án nguồn mở thú vị vào tháng 11 năm 2022," Liu chia sẻ với TechCrunch. "Tôi đã bị cuốn hút vào việc tìm ra cách các mô hình ngôn ngữ lớn (LLM) có thể khai thác dữ liệu độc quyền không có trong bộ đào tạo của họ, vì vậy tôi đã xây dựng một số công cụ để giúp các nhà phát triển lập chỉ mục và sử dụng dữ liệu đó trong các ứng dụng LLM của họ."

Với phần mềm nguồn mở của Llamaindex, đã được tải xuống hàng triệu lần trên GitHub, các nhà phát triển có thể tạo ra các tác nhân tùy chỉnh rút ra thông tin, đánh bại các báo cáo và hiểu biết và thậm chí thực hiện các hành động cụ thể. Llamaindex cung cấp các đầu nối và công cụ dữ liệu như Llamaparse, biến dữ liệu lộn xộn thành một thứ gì đó gọn gàng và có thể sử dụng cho các ứng dụng AI.

Chắc chắn, có các khung nguồn mở khác ngoài kia để xây dựng các đại lý AI, nhưng Liu nói Llamaindex nổi bật với các công cụ của mình để nhập dữ liệu, quản lý, lập chỉ mục và truy xuất. Nó có thể kết nối dữ liệu từ các tệp như PDFS và PowerPoint Slide, cũng như các ứng dụng như Notion và Slack, với một tác nhân.

Những tên tuổi lớn như Salesforce, KPMG và Carlyle đã sử dụng Llamaindex, theo Liu.

"Tất cả các giải pháp khác này giải quyết các vấn đề cụ thể ở các lớp khác nhau của AI Stack, nhưng sau đó, nhà phát triển phải ghép chúng lại với nhau để tạo ra một tác nhân làm việc", Liu giải thích. "Đó là một cơn đau đầu thực sự làm chậm việc đưa các đại lý vào sản xuất. Mục tiêu của Llamaindex là cung cấp nền tảng an toàn, chính xác và thân thiện với người dùng để xây dựng các tác nhân kiến ​​thức đầy đủ."

Động thái tiếp theo của Llamaindex là một dịch vụ doanh nghiệp có tên Llamacloud, được xây dựng trên các công cụ nguồn mở của họ. Nó cho phép khách hàng thiết lập các tác nhân được lưu trữ trên đám mây có thể xử lý và thao tác dữ liệu phi cấu trúc ở tất cả các định dạng.

Bạn có thể tung ra Llamacloud như một dịch vụ phần mềm hoặc trong một đám mây riêng ảo, và nó đi kèm với những điều tốt đẹp như kiểm soát truy cập dựa trên vai trò và đăng nhập một lần, Liu đã đề cập.

Để giúp tài trợ cho sự tăng trưởng của Llamacloud, Llamaindex chỉ kiếm được 19 triệu đô la trong một vòng A, dẫn đầu bởi các đối tác liên doanh của Norwest, với Greylock cũng sứt mẻ. Điều đó đưa tổng tài trợ của họ lên 27,5 triệu đô la, và Liu nói rằng họ sẽ sử dụng nó để phát triển nhóm 20 người của họ và tiếp tục phát triển sản phẩm của họ.

"Chúng tôi đã có đủ tiền mặt để thấy chúng tôi qua giai đoạn đầu của việc tung ra nền tảng của chúng tôi về mặt thương mại", Liu nói. "Chúng tôi đang đặt cược lớn vào các nhà phát triển đóng một vai trò quan trọng trong việc đưa các ứng dụng Genai đến các doanh nghiệp."