As mais recentes soluções de IA da Oracle integram e gerenciam seus dados de maneira eficaz

A Oracle está apresentando um argumento convincente para manter seus dados exatamente onde estão, especialmente se for dentro de seus bancos de dados, quando você deseja explorar o mundo da inteligência artificial generativa. Essa abordagem pode ser transformadora, particularmente para usuários corporativos já investidos no ecossistema da Oracle.

Durante um recente evento de parceiros em Dubai, a Oracle anunciou a disponibilidade geral de seus Serviços de IA Generativa OCI. Este serviço gerenciado de IA, que inicialmente foi lançado em beta em setembro, agora está pronto para o uso principal. Junto a isso, a Oracle introduziu duas novas ofertas ainda em beta: Agentes de IA Gen OCI e Ações Rápidas de Ciência de Dados OCI.

A proposta da Oracle é clara: construir suas aplicações de IA generativa corporativa na sua infraestrutura de dados existente não apenas aproveita seus dados exclusivos de forma mais eficaz, mas também evita gastos extras com infraestrutura adicional. OCI, que significa Oracle Cloud Infrastructure, engloba a rede global e recursos computacionais, incluindo o Oracle Autonomous Database e "super-clusters" de GPU Nvidia, nos quais a Oracle investiu bilhões.

Erik Bergenholtz, vice-presidente de estratégia e operações da Oracle, enfatizou a abordagem da empresa: "Estamos, essencialmente, levando a IA aos dados." Ele destacou como as aplicações Fusion da Oracle, como ERP e HCM, armazenam exabytes de dados, e a empresa agora está integrando IA generativa a esses vastos conjuntos de dados.

Os benefícios práticos de construir sobre o banco de dados, middleware e aplicativos Fusion da Oracle são significativos, segundo Bergenholtz. Ele apontou que, embora as empresas possam optar por comprar software adicional, como um banco de dados vetorial como Pine Cone, essa abordagem adiciona custo e complexidade. "A desvantagem, claro, é que você tem mais uma peça de infraestrutura que aumenta o custo da nuvem, e agora você precisa mover e potencialmente sincronizar dados entre seu armazenamento de dados original," ele explicou. Usar os serviços OCI, no entanto, "simplesmente elimina essa barreira, essa fricção, para nossos clientes."

Steve Zivanic, vice-presidente de marketing de banco de dados e serviços autônomos da Oracle, acrescentou: "Não queremos que os clientes movam dados, porque a última coisa que eles querem é mover 500 terabytes apenas para obter a vantagem da IA generativa."

O serviço OCI Generative AI recém-disponibilizado inclui modelos de linguagem de grande escala (LLMs) pré-construídos, como o modelo de 70 bilhões de parâmetros Llama 2 de código aberto da Meta. A Oracle também fez parceria com a Cohere, uma startup apoiada por capital de risco na qual a Oracle investiu, para incluir três modelos em seu serviço: Command para funções de texto-linguagem mainstream, Summarize para resumo de documentos e Embed para funções multilíngues.

Bergenholtz destacou a importância da privacidade dos dados, observando que os dados dos clientes usados no OCI para treinamento ou ajuste fino de modelos permanecem confidenciais e inacessíveis a outros clientes da Oracle. Desde sua fase beta, o serviço adicionou recursos como moderação de conteúdo, realizada antes que os prompts sejam enviados ao modelo de linguagem e após as respostas do modelo serem geradas.

O serviço também se integra ao framework de desenvolvimento LangChain, aumentando sua utilidade para desenvolvedores que trabalham com LLMs.

O produto Agentes de IA Gen OCI visa conectar LLMs a outros recursos, como dados proprietários de um cliente. O primeiro agente, para geração aumentada por recuperação (RAG), permite que o modelo de linguagem acesse fontes de dados como o OpenSearch da OCI e, em breve, a Pesquisa Vetorial de IA do Banco de Dados 23c da Oracle e o Armazenamento Vetorial Heatwave do MySQL. O serviço de agentes de IA está programado para iniciar testes beta este mês.

As Ações Rápidas de Ciência de Dados OCI, oriundas da aquisição da DataScience pela Oracle em 2018, oferecem uma abordagem sem código para implantar e ajustar modelos de linguagem. Ele suporta vários frameworks para treinamento distribuído e usa armazenamento de objetos e arquivos para gerenciar pesos de modelos. As Ações Rápidas entrarão em testes beta no próximo mês.

A Oracle observou vários casos de uso durante a fase beta de seu serviço OCI Gen AI. Uma aplicação comum é a automação de respostas a perguntas sobre políticas de RH, como calcular dias de férias restantes com base na política da empresa e no uso individual. Aplicações semelhantes incluem responder perguntas sobre benefícios de seguros de saúde. Outro caso de uso prevalente é no suporte ao cliente, onde o RAG pode ajudar a resumir casos e fornecer roteiros para os próximos passos, melhorando a experiência do usuário.

Para aqueles hesitantes em integrar IA generativa com seus dados, Zivanic delineou a abordagem da Oracle: ao incorporar recursos como pesquisa vetorial diretamente no banco de dados Oracle e no Heatwave, eles estão trazendo a tecnologia aos clientes. Ele reconheceu que algumas organizações podem começar com projetos paralelos para se familiarizarem com a tecnologia, mas previu que, com o tempo, as vantagens de um banco de dados convergente se tornarão claras, superando as complexidades de gerenciar múltiplos bancos de dados.