As mais recentes soluções de IA da Oracle integram e gerenciam seus dados de maneira eficaz

A Oracle está fazendo um argumento convincente para manter seus dados exatamente onde estão, especialmente se isso estiver dentro dos bancos de dados deles, quando você deseja mergulhar no mundo da inteligência artificial generativa. Essa abordagem pode ser um divisor de águas, principalmente para usuários corporativos que já estão investidos no ecossistema da Oracle.

Durante um evento de parceiro recente em Dubai, a Oracle lançou a disponibilidade geral de seus serviços de IA generativos da OCI. Este serviço de IA gerenciado, lançado inicialmente na versão beta em setembro, agora está pronto para o horário nobre. Além disso, a Oracle introduziu duas novas ofertas ainda na versão beta: OCI Gen AI Agents e OCI Data Science AI Ações rápidas.

O tom da Oracle é claro: a criação de seus aplicativos de IA generativos corporativos em sua infraestrutura de dados existente não apenas aproveita seus dados exclusivos com mais eficiência, mas também evita que você gaste dinheiro extra para infraestrutura adicional. O OCI, que significa Oracle Cloud Infrastructure, abrange a rede global e os recursos de computação, incluindo o Oracle Autonomous Database e o Nvidia GPU "Super-Clusters", que o Oracle investiu bilhões.

Erik Bergenholtz, vice -presidente de estratégia e operações da Oracle, enfatizou a abordagem da empresa: "Estamos essencialmente levando a IA aos dados". Ele destacou como os aplicativos de fusão da Oracle, como ERP e HCM, exabytes de dados da casa, e a empresa agora está integrando IA generativa nesses vastos pools de dados.

Os benefícios práticos da construção dos aplicativos de banco de dados, middleware e fusão da Oracle são significativos, de acordo com Bergenholtz. Ele ressaltou que, embora as empresas possam optar por comprar software adicional, como um banco de dados vetorial, como o Pine Cone, essa abordagem adiciona custo e complexidade. "A desvantagem, é claro, é que você tem mais uma infraestrutura que aumenta o custo da nuvem, e agora precisa se mover e potencialmente sincronizar dados em seu armazenamento de dados originários", explicou. Usando os serviços da OCI, no entanto, "apenas elimina essa barreira, esse atrito, para nossos clientes".

Steve Zivanic, vice -presidente do banco de dados da Oracle e marketing de serviços autônomos, acrescentou: "Não queremos que os clientes movam dados, porque a última coisa que eles querem é mover 500 terabytes apenas para obter a vantagem da IA ​​generativa".

O recém-disponível Serviço de AI generativo da OCI inclui modelos de idiomas grandes pré-construídos (LLMS), como o modelo de 270 bilhões de parâmetros da Meta de código aberto. A Oracle também fez parceria com a Cohere, uma startup apoiada por empreendimentos na qual a Oracle investiu, para incluir três modelos em seu serviço: comando para funções convencionais de língua de texto, resumir para o resumo de documentos e incorporar funções de várias linguagens.

Bergenholtz enfatizou a importância da privacidade de dados, observando que os dados do cliente usados ​​na OCI para modelos de treinamento ou ajuste fino permanecem confidenciais e inacessíveis para outros clientes da Oracle. Desde a sua fase beta, o serviço adicionou recursos como moderação de conteúdo, que é executada antes que os avisos sejam enviados ao modelo de idioma e após a geração das respostas do modelo.

O serviço também se integra à estrutura de desenvolvimento de Langchain, aprimorando sua utilidade para os desenvolvedores que trabalham com o LLMS.

O produto de agentes da OCI Gen AI visa conectar o LLMS a outros recursos, como os dados proprietários de um cliente. O primeiro agente, para geração de recuperação upmentada (RAG), permite que o modelo de idioma explique fontes de dados como o OpenEarch da OCI e, em breve, o banco de dados da Oracle 23C AI Vector Search e o MySQL Heat Wave Vector Store. O serviço de agentes de IA está definido para iniciar o teste beta este mês.

As ações rápidas da OCI Data Science, decorrentes da aquisição da Oracle em 2018 da DataCience, oferece uma abordagem sem código para implantar e ajustar modelos de linguagem. Ele suporta várias estruturas para treinamento distribuído e usa o armazenamento de objetos e arquivos para gerenciar pesos do modelo. As ações rápidas entrarão no teste beta no próximo mês.

O Oracle observou vários casos de uso durante a fase beta do serviço OCI Gen AI. Um aplicativo comum está automatizando respostas às questões de política de RH, como calcular os dias de férias restantes com base na política da empresa e no uso individual. Aplicações semelhantes incluem responder a perguntas sobre o seguro de saúde. Outro caso de uso predominante está no suporte ao cliente, onde o RAG pode ajudar a resumir os casos e fornecer scripts para as próximas etapas, aprimorando a experiência do usuário.

Para aqueles que hesitam em integrar a IA generativa com seus dados, o Zivanic descreveu a abordagem da Oracle: incorporando recursos como a pesquisa de vetores diretamente no banco de dados e onda de calor do Oracle, eles estão trazendo a tecnologia para os clientes. Ele reconheceu que algumas organizações podem começar com projetos paralelos para se sentir confortável com a tecnologia, mas previu que, com o tempo, as vantagens de um banco de dados convergentes ficariam claras, superando as complexidades do gerenciamento de vários bancos de dados.