Les dernières solutions d'IA d'Oracle intégrent et gèrent vos données efficacement

Oracle fait un cas convaincant pour garder vos données là où elles se trouvent, surtout si cela se trouve dans leurs bases de données, lorsque vous cherchez à plonger dans le monde de l'intelligence artificielle générative. Cette approche pourrait changer la donne, en particulier pour les utilisateurs d'entreprises qui sont déjà investis dans l'écosystème d'Oracle.

Lors d'un récent événement partenaire à Dubaï, Oracle a déployé la disponibilité générale de ses services d'ICI OCI. Ce service d'IA géré, initialement lancé en version bêta en septembre, est maintenant prêt pour les heures de grande écoute. Parallèlement à cela, Oracle a introduit deux nouvelles offres encore en bêta: OCI Gen AI Agents et OCI Data Science AI Actions rapides.

La hauteur d'Oracle est claire: la création de vos applications d'IA génératrices d'entreprise sur votre infrastructure de données existantes exploite non seulement vos données uniques plus efficacement, mais vous évite également de décoller des espèces supplémentaires pour une infrastructure supplémentaire. OCI, qui signifie Oracle Cloud Infrastructure, englobe le réseau mondial et les ressources de calcul, y compris la base de données autonome Oracle et le GPU NVIDIA "Super-Clusters", dans lequel Oracle a investi des milliards.

Erik Bergenholtz, vice-président d'Oracle pour la stratégie et les opérations, a souligné l'approche de l'entreprise: "Nous apportons essentiellement l'IA aux données." Il a souligné comment les applications de fusion d'Oracle, comme l'ERP et le HCM, les exaocytets de données, et l'entreprise intégre désormais l'IA génératrice dans ces vastes pools de données.

Les avantages pratiques de la construction de la base de données, du middleware et des applications de fusion d'Oracle sont importants, selon Bergenholtz. Il a souligné que si les entreprises pouvaient choisir d'acheter des logiciels supplémentaires comme une base de données vectorielle telle que Pine Cone, cette approche ajoute le coût et la complexité. "L'inconvénient, bien sûr, est que vous avez encore un autre élément d'infrastructure qui augmente le coût du cloud, et vous devez maintenant bouger et potentiellement synchroniser les données dans votre magasin de données d'origine", a-t-il expliqué. Cependant, en utilisant les services OCI, "élimine simplement cette barrière, cette friction, pour nos clients".

Steve Zivanic, vice-président de la base de données d'Oracle et du marketing des services autonomes, a ajouté: "Nous ne voulons pas que les clients déplacent des données, car la dernière chose qu'ils veulent est de déplacer 500 téraoctets juste pour obtenir l'avantage de l'IA génératrice."

Le service AI Génératif OCI nouvellement disponible comprend des modèles de grande langue prédéfinis (LLMS), tels que le modèle de paramètre Open-source Llama de Meta. Oracle s'est également associé à Cohere, une startup soutenue par une entreprise dans laquelle Oracle a investi, pour inclure trois modèles dans leur service: commande pour les fonctions de langue texte traditionnelles, résumer pour le résumé des documents et intégrer des fonctions multi-langues.

Bergenholtz a souligné l'importance de la confidentialité des données, notant que les données clients utilisées dans l'OCI pour la formation ou les modèles de réglage fin restent confidentielles et inaccessibles pour les autres clients Oracle. Depuis sa phase bêta, le service a ajouté des capacités comme la modération de contenu, qui est effectuée avant que les invites ne soient soumises au modèle de langue et après la génération des réponses du modèle.

Le service s'intègre également au cadre de développement de Langchain, améliorant son utilité pour les développeurs travaillant avec LLMS.

Le produit OCI GEN AI Agents vise à connecter les LLM avec d'autres ressources, telles que les données propriétaires d'un client. Le premier agent, pour la génération (RAG) (RAG) de la récupération, permet au modèle de langue de puiser dans des sources de données comme OpenSearch d'OCI et, bientôt, la recherche de vecteur AI de la base de données d'Oracle 23C et le MySQL Heatwave Vector Store. Le service AI Agents devrait commencer les tests bêta ce mois-ci.

Les actions rapides de la science des données OCI, découlant de l'acquisition d'Oracle 2018 de DataScience, offre une approche sans code pour le déploiement et les modèles de langage affinés. Il prend en charge plusieurs cadres de formation distribuée et utilise un stockage d'objets et de fichiers pour gérer les poids du modèle. Les actions rapides entrent en bêta le mois prochain.

Oracle a observé divers cas d'utilisation pendant la phase bêta de leur service OCI GEN AI. Une application courante est d'automatiser les réponses aux questions de politique RH, comme le calcul des jours de vacances restants en fonction de la politique de l'entreprise et de l'utilisation individuelle. Les applications similaires incluent la réponse aux questions sur les prestations d'assurance des soins de santé. Un autre cas d'utilisation répandu est dans le support client, où RAG peut aider à résumer les cas et à fournir des scripts pour les prochaines étapes, en améliorant l'expérience utilisateur.

Pour ceux qui hésitent à intégrer l'IA générative à leurs données, Zivanic a décrit l'approche d'Oracle: en intégrant des capacités comme la recherche de vecteur directement dans la base de données Oracle et l'onde de chaleur, ils apportent la technologie aux clients. Il a reconnu que certaines organisations pourraient commencer par des projets parallèles pour se familiariser avec la technologie, mais ont prédit qu'au fil du temps, les avantages d'une base de données convergents deviendraient clairs, l'emportant sur les complexités de la gestion de plusieurs bases de données.