Giải pháp AI mới nhất của Oracle tích hợp và quản lý dữ liệu của bạn một cách hiệu quả

Oracle đang đưa ra một lập luận thuyết phục để giữ dữ liệu của bạn ngay tại chỗ, đặc biệt nếu dữ liệu đó nằm trong các cơ sở dữ liệu của họ, khi bạn muốn khám phá thế giới của trí tuệ nhân tạo sinh tạo. Cách tiếp cận này có thể là một yếu tố thay đổi cuộc chơi, đặc biệt đối với người dùng doanh nghiệp đã đầu tư vào hệ sinh thái của Oracle.

Trong một sự kiện đối tác gần đây tại Dubai, Oracle đã công bố tính sẵn sàng chung của Dịch vụ AI Sinh tạo OCI. Dịch vụ AI được quản lý này, ban đầu ra mắt ở giai đoạn beta vào tháng 9, giờ đây đã sẵn sàng để hoạt động chính thức. Cùng với đó, Oracle đã giới thiệu hai sản phẩm mới vẫn đang trong giai đoạn beta: Tác nhân AI Sinh tạo OCI và Hành động Nhanh AI Khoa học Dữ liệu OCI.

Lập luận của Oracle rất rõ ràng: xây dựng các ứng dụng AI sinh tạo doanh nghiệp trên cơ sở hạ tầng dữ liệu hiện có không chỉ tận dụng dữ liệu độc đáo của bạn hiệu quả hơn mà còn giúp bạn tiết kiệm chi phí cho cơ sở hạ tầng bổ sung. OCI, viết tắt của Cơ sở Hạ tầng Đám mây Oracle, bao gồm mạng lưới toàn cầu và tài nguyên tính toán, bao gồm Cơ sở Dữ liệu Tự quản Oracle và các "siêu cụm" GPU Nvidia, mà Oracle đã đầu tư hàng tỷ đô la.

Erik Bergenholtz, phó chủ tịch phụ trách chiến lược và vận hành của Oracle, nhấn mạnh cách tiếp cận của công ty: "Chúng tôi về cơ bản đang mang AI đến với dữ liệu." Ông nhấn mạnh rằng các ứng dụng Fusion của Oracle, như ERP và HCM, lưu trữ hàng exabyte dữ liệu, và công ty hiện đang tích hợp AI sinh tạo vào những kho dữ liệu khổng lồ này.

Lợi ích thực tiễn của việc xây dựng trên cơ sở dữ liệu, phần mềm trung gian và ứng dụng Fusion của Oracle là rất đáng kể, theo Bergenholtz. Ông chỉ ra rằng mặc dù các công ty có thể chọn mua phần mềm bổ sung như cơ sở dữ liệu vector như Pine Cone, nhưng cách tiếp cận này làm tăng chi phí và độ phức tạp. "Nhược điểm, tất nhiên, là bạn có thêm một phần cơ sở hạ tầng làm tăng chi phí đám mây, và bạn giờ đây phải thực sự di chuyển và có thể đồng bộ hóa dữ liệu qua kho dữ liệu gốc của mình," ông giải thích. Tuy nhiên, sử dụng dịch vụ OCI "chỉ đơn giản là loại bỏ rào cản đó, sự ma sát đó, cho khách hàng của chúng tôi."

Steve Zivanic, phó chủ tịch tiếp thị dịch vụ cơ sở dữ liệu và tự quản của Oracle, bổ sung: "Chúng tôi không muốn khách hàng di chuyển dữ liệu, bởi điều cuối cùng họ muốn là phải di chuyển 500 terabyte chỉ để tận dụng lợi thế của AI sinh tạo."

Dịch vụ AI Sinh tạo OCI mới ra mắt bao gồm các mô hình ngôn ngữ lớn (LLMs) được xây dựng sẵn, như mô hình Llama 2 70 tỷ tham số mã nguồn mở của Meta. Oracle cũng đã hợp tác với Cohere, một công ty khởi nghiệp được hỗ trợ vốn mà Oracle có đầu tư, để đưa vào ba mô hình trong dịch vụ của họ: Command cho các chức năng ngôn ngữ văn bản chính thống, Summarize cho tóm tắt tài liệu, và Embed cho các chức năng đa ngôn ngữ.

Bergenholtz nhấn mạnh tầm quan trọng của quyền riêng tư dữ liệu, lưu ý rằng dữ liệu khách hàng được sử dụng trong OCI để huấn luyện hoặc tinh chỉnh mô hình vẫn được bảo mật và không thể truy cập bởi các khách hàng khác của Oracle. Kể từ giai đoạn beta, dịch vụ đã bổ sung các tính năng như kiểm duyệt nội dung, được thực hiện trước khi các lời nhắc được gửi đến mô hình ngôn ngữ và sau khi phản hồi của mô hình được tạo ra.

Dịch vụ này cũng tích hợp với khung phát triển LangChain, nâng cao tiện ích cho các nhà phát triển làm việc với LLMs.

Sản phẩm Tác nhân AI Sinh tạo OCI nhằm kết nối LLMs với các tài nguyên khác, chẳng hạn như dữ liệu độc quyền của khách hàng. Tác nhân đầu tiên, dành cho thế hệ tăng cường truy xuất (RAG), cho phép mô hình ngôn ngữ khai thác các nguồn dữ liệu như OpenSearch của OCI và, sắp tới, Tìm kiếm Vector AI Cơ sở Dữ liệu 23c của Oracle và Kho Vector Heatwave MySQL. Dịch vụ tác nhân AI dự kiến bắt đầu thử nghiệm beta trong tháng này.

Hành động Nhanh Khoa học Dữ liệu OCI, bắt nguồn từ việc Oracle mua lại DataScience vào năm 2018, cung cấp cách tiếp cận không cần mã để triển khai và tinh chỉnh các mô hình ngôn ngữ. Nó hỗ trợ một số khung cho huấn luyện phân tán và sử dụng lưu trữ đối tượng và tệp để quản lý trọng số mô hình. Hành động Nhanh sẽ bắt đầu thử nghiệm beta vào tháng tới.

Oracle đã quan sát thấy nhiều trường hợp sử dụng trong giai đoạn beta của dịch vụ AI Sinh tạo OCI. Một ứng dụng phổ biến là tự động hóa trả lời các câu hỏi về chính sách nhân sự, như tính toán số ngày nghỉ phép còn lại dựa trên chính sách công ty và mức sử dụng cá nhân. Các ứng dụng tương tự bao gồm trả lời các câu hỏi về lợi ích bảo hiểm y tế. Một trường hợp sử dụng phổ biến khác là trong hỗ trợ khách hàng, nơi RAG có thể giúp tóm tắt các trường hợp và cung cấp kịch bản cho các bước tiếp theo, nâng cao trải nghiệm người dùng.

Đối với những người còn do dự về việc tích hợp AI sinh tạo với dữ liệu của họ, Zivanic đã phác thảo cách tiếp cận của Oracle: bằng cách nhúng các khả năng như tìm kiếm vector trực tiếp vào cơ sở dữ liệu Oracle và Heatwave, họ đang mang công nghệ đến với khách hàng. Ông thừa nhận rằng một số tổ chức có thể bắt đầu với các dự án phụ để làm quen với công nghệ, nhưng dự đoán rằng theo thời gian, lợi thế của một cơ sở dữ liệu hội tụ sẽ trở nên rõ ràng, vượt qua những phức tạp của việc quản lý nhiều cơ sở dữ liệu.