Las últimas soluciones de IA de Oracle integran y administran sus datos de manera efectiva

Oracle está haciendo un caso convincente para mantener sus datos justo donde está, especialmente si está dentro de sus bases de datos, cuando busca sumergirse en el mundo de la inteligencia artificial generativa. Este enfoque podría cambiar el juego, particularmente para los usuarios empresariales que ya están invertidos en el ecosistema de Oracle.

Durante un evento socio reciente en Dubai, Oracle lanzó la disponibilidad general de sus servicios de IA generativos de OCI. Este servicio de IA administrado, que inicialmente se lanzó en Beta en septiembre, ahora está listo para el horario estelar. Junto a esto, Oracle presentó dos nuevas ofertas aún en Beta: agentes de AI AI de OCI y OCI Data Science AI Acciones rápidas.

El tono de Oracle es claro: la construcción de sus aplicaciones de IA generativas empresariales en su infraestructura de datos existente no solo aprovecha sus datos únicos de manera más efectiva, sino que también le evita desembolsar efectivo adicional para una infraestructura adicional. La OCI, que representa la infraestructura de Oracle Cloud, abarca la red global y calcula los recursos, incluida la base de datos Autónomo de Oracle y los "superclausos" de la GPU de NVIDIA, que Oracle ha invertido miles de millones.

Erik Bergenholtz, vicepresidente de estrategia y operaciones de Oracle, enfatizó el enfoque de la compañía: "Esencialmente estamos trayendo IA a los datos". Destacó cómo las aplicaciones de fusión de Oracle, como ERP y HCM, exabytes de datos de la casa, y la compañía ahora está integrando la IA generativa en estos vastos grupos de datos.

Según Bergenholtz. Señaló que, si bien las empresas podrían optar por comprar software adicional como una base de datos vectorial como Pine Cone, este enfoque agrega costo y complejidad. "El inconveniente, por supuesto, es que tiene otra infraestructura que aumenta el costo de la nube, y ahora tiene que moverse y potencialmente sincronizar datos en su almacén de datos de origen", explicó. Sin embargo, utilizando los servicios de OCI, "simplemente elimina esa barrera, esa fricción, para nuestros clientes".

Steve Zivanic, vicepresidente de la base de datos de Oracle y el marketing de servicios autónomos, agregó: "No queremos que los clientes muevan datos, porque lo último que desean es mover 500 terabytes solo para obtener la ventaja de la IA generativa".

El servicio de IA generativo OCI recientemente disponible incluye modelos de lenguaje grande (LLM) prebuilados, como el modelo de Llama de código abierto de Meta 2 70 mil millones de parámetros. Oracle también se ha asociado con Cohere, una startup respaldada por la empresa en la que Oracle ha invertido para incluir tres modelos en su servicio: comando para las funciones de idioma de texto convencional, resumir para el resumen de documentos e incrustarse para funciones de varios idiomas.

Bergenholtz enfatizó la importancia de la privacidad de los datos, señalando que los datos del cliente utilizados en OCI para capacitación o modelos de ajuste fino siguen siendo confidenciales e inaccesibles para otros clientes de Oracle. Desde su fase beta, el servicio ha agregado capacidades como la moderación de contenido, que se realiza antes de que se envíen indicaciones al modelo de idioma y después de que se generan las respuestas del modelo.

El servicio también se integra con el marco de desarrollo de Langchain, mejorando su utilidad para los desarrolladores que trabajan con LLM.

El producto OCI Gen AI Agents tiene como objetivo conectar LLM con otros recursos, como los datos propietarios de un cliente. El primer agente, para la generación de recuperación aumentada (RAG), permite que el modelo de idioma aproveche fuentes de datos como OCI OpenSearch y, pronto, Oracle's Database 23C AI Vector Search y la tienda MySQL Heatwave Vector. El Servicio de Agentes de AI está listo para comenzar las pruebas beta este mes.

Las acciones rápidas de OCI Data Science, derivadas de la adquisición de DataScience en 2018 de Oracle, ofrecen un enfoque sin código para implementar y ajustar modelos de lenguaje. Admite varios marcos para capacitación distribuida y utiliza almacenamiento de objetos y archivos para administrar pesos de modelos. Las acciones rápidas ingresarán a las pruebas beta el próximo mes.

Oracle ha observado varios casos de uso durante la fase beta de su servicio OCI Gen AI. Una aplicación común es automatizar las respuestas a las preguntas de la política de recursos humanos, como calcular los días de vacaciones restantes en función de la política de la empresa y el uso individual. Las aplicaciones similares incluyen responder preguntas de beneficios de seguro de salud. Otro caso de uso prevalente está en la atención al cliente, donde RAG puede ayudar a resumir los casos y proporcionar scripts para los próximos pasos, mejorando la experiencia del usuario.

Para aquellos dudas sobre la integración de la IA generativa con sus datos, Zivanic describió el enfoque de Oracle: al incrustar las capacidades como la búsqueda de vectores directamente en la base de datos de Oracle y la onda de calor, están llevando la tecnología a los clientes. Reconoció que algunas organizaciones podrían comenzar con proyectos paralelos para sentirse cómodos con la tecnología, pero predijo que con el tiempo, las ventajas de una base de datos convergente quedarían claras, superando las complejidades de administrar múltiples bases de datos.