DataGemma aborda as alucinações AI com dados do mundo real

Modelos de linguagem de grande escala (LLMs) estão no centro dos avanços em IA hoje, capazes de analisar enormes conjuntos de dados de texto para produzir resumos, gerar ideias criativas e até escrever código. No entanto, apesar de sua capacidade, esses modelos podem às vezes fornecer informações simplesmente erradas, um problema que chamamos de "alucinação". É um grande obstáculo no mundo da IA generativa.

Estamos empolgados em compartilhar pesquisas de ponta que abordam essa questão diretamente, visando reduzir alucinações ao ancorar LLMs em estatísticas do mundo real. E estamos entusiasmados em apresentar DataGemma, os primeiros modelos abertos que conectam LLMs a uma riqueza de dados do mundo real do Data Commons do Google.

Data Commons: Um Tesouro de Dados Confiáveis

Data Commons é como uma biblioteca gigante e em constante crescimento de dados públicos, com mais de 240 bilhões de pontos de dados sobre tudo, desde saúde até economia. Ele obtém essas informações de fontes confiáveis como ONU, OMS, CDC e Bureaus de Censo. Ao unir esses conjuntos de dados em uma única ferramenta poderosa e modelos de IA, Data Commons ajuda formuladores de políticas, pesquisadores e organizações a obterem as informações precisas de que precisam.

Imagine um vasto banco de dados onde você pode fazer perguntas em português simples, como quais países africanos tiveram o maior aumento no acesso à eletricidade, ou como a renda se relaciona com diabetes nos condados dos EUA. Isso é o Data Commons para você.

Como o Data Commons Ajuda a Combater Alucinações

À medida que mais pessoas recorrem à IA generativa, estamos trabalhando para tornar essas experiências mais fundamentadas ao integrar Data Commons na Gemma, nossa família de modelos abertos leves e de alta qualidade. Esses modelos DataGemma agora estão disponíveis para pesquisadores e desenvolvedores explorarem.

DataGemma aprimora as capacidades da Gemma ao acessar o conhecimento do Data Commons, usando dois métodos interessantes para melhorar a precisão e o raciocínio dos LLMs:

1. RIG (Geração Intercalada por Recuperação) melhora nosso modelo Gemma 2 ao verificar ativamente os fatos contra o Data Commons. Quando você faz uma pergunta ao DataGemma, ele busca dados estatísticos do Data Commons para fornecer uma resposta sólida. Embora o RIG não seja uma ideia nova, a forma como o usamos no DataGemma é bastante especial.

   Exemplo de consulta: ''O uso de renováveis aumentou no mundo?'' aplicando a metodologia RIG do DataGemma utiliza o Data Commons (DC) para dados autoritativos.

2. RAG (Geração Aumentada por Recuperação) permite que modelos de linguagem tragam informações adicionais além do que foram treinados, tornando suas respostas mais ricas e precisas. Com DataGemma, usamos a janela de contexto longa do Gemini 1.5 Pro para buscar dados relevantes do Data Commons antes que o modelo comece a elaborar sua resposta, reduzindo alucinações.

   Exemplo de consulta: ''O uso de renováveis aumentou no mundo?'' aplicando a metodologia RAG do DataGemma demonstra maior raciocínio e inclusão de notas de rodapé.

Resultados Promissores e Próximos Passos

Nossos testes iniciais com RIG e RAG estão promissores. Estamos vendo maior precisão em nossos modelos ao lidar com números, o que significa menos alucinações para pessoas usando esses modelos para pesquisa, tomada de decisão ou apenas para satisfazer sua curiosidade. Você pode conferir esses resultados em nosso artigo de pesquisa.