Oracle的最新AI解決方案有效地集成並管理您的數據

Oracle提出令人信服的理由，讓您的資料留在原地，特別是若已儲存在其資料庫中，當您準備進入生成式人工智慧領域時。此方法可能改變遊戲規則，特別對已投入Oracle生態系統的企業用戶而言。

在杜拜最近的合作夥伴活動中，Oracle宣布其OCI生成式AI服務正式上線。此管理型AI服務於去年九月進入測試階段，現已準備好正式推出。同時，Oracle推出兩項仍在測試中的新產品：OCI Gen AI代理和OCI資料科學AI快速行動。

Oracle的論點明確：在現有資料基礎設施上打造企業生成式AI應用，不僅能更有效利用您的獨特資料，還能避免為額外基礎設施花費額外資金。OCI（Oracle雲端基礎設施）涵蓋全球網路和運算資源，包括Oracle自主資料庫和Nvidia GPU「超級叢集」，Oracle已為此投資數十億美元。

Oracle策略與營運副總裁Erik Bergenholtz強調公司策略：「我們基本上是將AI帶到資料中。」他指出，Oracle的Fusion應用（如ERP和HCM）儲存了數艾位元組的資料，公司現正將生成式AI整合進這些龐大資料池。

Bergenholtz表示，基於Oracle資料庫、中介軟體和Fusion應用建置的實際好處顯著。他指出，企業雖可選擇購買如Pine Cone的向量資料庫等額外軟體，但此方法增加成本和複雜性。「缺點當然是您又多了一項基礎設施，增加了雲端成本，且需在原始資料儲存之間移動並可能同步資料，」他解釋。使用OCI服務則「消除了客戶的障礙與摩擦」。

Oracle資料庫與自主服務行銷副總裁Steve Zivanic補充：「我們不希望客戶移動資料，因為他們最不希望的是為了利用生成式AI而移動500太位元組的資料。」

新推出的OCI生成式AI服務包括預建的大型語言模型（LLMs），如Meta的開源Llama 2 70億參數模型。Oracle還與其投資的初創公司Cohere合作，將三個模型納入服務：用於主流文字語言功能的Command、用於文件摘要的Summarize，以及用於多語言功能的Embed。

Bergenholtz強調資料隱私的重要性，指出客戶在OCI中用於訓練或微調模型的資料保持機密，其他Oracle客戶無法存取。自測試階段以來，服務新增了內容審核功能，在提交提示給語言模型前以及模型生成回應後進行審核。

該服務還與LangChain開發框架整合，提升了對使用LLMs的開發者的實用性。

OCI Gen AI代理產品旨在將LLMs與其他資源（如客戶的專有資料）連接。第一個代理用於檢索增強生成（RAG），允許語言模型存取如OCI的OpenSearch、即將推出的Oracle資料庫23c AI向量搜尋和MySQL Heatwave向量儲存等資料來源。AI代理服務將於本月開始測試。

來自Oracle 2018年收購DataScience的OCI資料科學快速行動，提供無程式碼方式部署和微調語言模型。它支援多個分散式訓練框架，並使用物件和檔案儲存管理模型權重。快速行動將於下個月進入測試。

Oracle在OCI Gen AI服務測試階段觀察到多種使用案例。常見應用包括自動回應人力資源政策問題，如根據公司政策和個人使用情況計算剩餘休假天數。類似應用還包括回答醫療保險福利問題。另一常見案例是客戶支援，RAG可協助總結案例並提供後續步驟腳本，提升用戶體驗。

對於對將生成式AI與資料整合猶豫的用戶，Zivanic概述了Oracle的策略：通過將向量搜尋等功能直接嵌入Oracle資料庫和Heatwave，將技術帶給客戶。他承認一些組織可能會從小型專案開始以熟悉技術，但預測隨著時間推移，融合資料庫的優勢將顯而易見，超越管理多個資料庫的複雜性。