Oracleの最新のAIソリューションは、データを効果的に統合および管理する

オラクルは、特に彼らのデータベース内にデータがある場合、生成型人工知能の世界に飛び込む際に、データをそのままの場所に保持することの魅力的な理由を提示しています。このアプローチは、すでにオラクルのエコシステムに投資しているエンタープライズユーザーにとって、ゲームチェンジャーとなる可能性があります。

最近ドバイで開催されたパートナーイベントで、オラクルはOCI生成AIサービスの一般提供を開始しました。この管理されたAIサービスは、9月にベータ版として最初にリリースされ、現在は本格的に利用可能です。これと同時に、オラクルはベータ版の2つの新サービス、OCI Gen AIエージェントとOCIデータサイエンスAIクイックアクションを導入しました。

オラクルの提案は明確です：既存のデータインフラ上にエンタープライズ生成AIアプリケーションを構築することで、独自のデータをより効果的に活用できるだけでなく、追加のインフラに余分なコストを支払う必要もなくなります。OCI（オラクルクラウドインフラストラクチャ）は、グローバルネットワークとコンピューティングリソースを包含しており、オラクルが数十億ドルを投資したオラクル自律データベースやNvidia GPU「スーパークラスター」などが含まれます。

オラクルの戦略および運用担当副社長であるエリック・バーゲンホルツは、同社のアプローチを強調しました：「私たちは本質的にAIをデータに持ってきています。」彼は、オラクルのFusionアプリケーション（ERPやHCMなど）がエクサバイトのデータを保有しており、同社がこれらの膨大なデータプールに生成AIを統合していることを強調しました。

バーゲンホルツによると、オラクルのデータベース、ミドルウェア、Fusionアプリ上に構築することの実践的な利点は大きいとのことです。彼は、企業がPine Coneのようなベクトルデータベースなどの追加ソフトウェアを購入することも可能だが、このアプローチはコストと複雑さを増加させると指摘しました。「もちろん、欠点は、クラウドのコストを上げるもう一つのインフラが必要になり、元のデータストア間でデータを移動したり、同期させたりする必要が出てくることです」と彼は説明しました。しかし、OCIサービスを使用することで、「その障壁、その摩擦を顧客にとって排除します。」

オラクルのデータベースおよび自律サービスマーケティング担当副社長であるスティーブ・ジヴァニックは、「顧客がデータを移動させたくないと考えていることを理解しています。500テラバイトを移動して生成AIの利点を享受するのは最後に望むことです」と付け加えました。

新たに提供されるOCI生成AIサービスには、MetaのオープンソースLlama 2 70億パラメータモデルなどの事前構築された大規模言語モデル（LLM）が含まれます。オラクルはまた、オラクルが出資しているベンチャー支援スタートアップのCohereと提携し、3つのモデルをサービスに含めました：主流のテキスト言語機能用のCommand、ドキュメント要約用のSummarize、多言語機能用のEmbedです。

バーゲンホルツは、データプライバシーの重要性を強調し、OCIでモデルトレーニングや微調整に使用される顧客データは機密性が保たれ、他のオラクル顧客にはアクセスできないと述べました。ベータフェーズ以降、サービスにはコンテンツモデレーション機能が追加され、プロンプトが言語モデルに送信される前と、モデルの応答が生成された後に実行されます。

このサービスは、LangChain開発フレームワークとも統合されており、LLMを扱う開発者にとってその有用性を高めています。

OCI Gen AIエージェント製品は、LLMを顧客の独自データなどの他のリソースに接続することを目指しています。最初のエージェントである検索拡張生成（RAG）では、言語モデルがOCIのOpenSearchや、近日中のオラクルのデータベース23c AIベクトル検索、MySQL Heatwaveベクトルストアなどのデータソースを利用できます。AIエージェントサービスは今月からベータテストを開始する予定です。

2018年のDataScience買収に由来するOCIデータサイエンスクイックアクションは、言語モデルのデプロイと微調整をノーコードで実現するアプローチを提供します。分散トレーニング用の複数のフレームワークをサポートし、モデルウェイトの管理にオブジェクトおよびファイルストレージを使用します。クイックアクションは来月からベータテストに入ります。

オラクルは、OCI Gen AIサービスのベータフェーズ中にさまざまなユースケースを観察しました。一般的なアプリケーションには、企業ポリシーや個人の使用状況に基づいて残りの休暇日数を計算するなど、HRポリシーに関する質問への自動応答があります。同様のアプリケーションには、医療保険の給付に関する質問への回答も含まれます。もう一つの一般的なユースケースは顧客サポートで、RAGがケースの要約や次のステップのスクリプトを提供し、ユーザー体験を向上させます。

生成AIをデータと統合することに躊躇する人々に対して、ジヴァニックはオラクルのアプローチを説明しました：ベクトル検索などの機能をオラクルデータベースやHeatwaveに直接組み込むことで、技術を顧客に届けています。彼は、一部の組織が技術に慣れるためにサイドプロジェクトから始めるかもしれないが、時間が経つにつれて、複数のデータベースを管理する複雑さを上回る、統合データベースの利点が明らかになると予測しました。