Datagemma使用现实世界数据处理AI幻觉

大型语言模型（LLMs）是当今AI突破的核心，能够筛选海量文本数据集，生成摘要、激发创意，甚至编写代码。然而，尽管它们能力强大，这些模型有时会提供完全错误的信息，我们称之为“幻觉”。这是生成式AI领域的一大障碍。

我们很高兴分享一些前沿研究，直接解决这一问题，通过将LLMs与现实世界的统计数据结合，旨在减少幻觉。我们激动地介绍DataGemma，这是首个将LLMs与Google的Data Commons海量现实数据连接的开源模型。

Data Commons：值得信赖的数据宝库

Data Commons就像一个不断扩展的公共数据巨型图书馆，拥有超过2400亿个数据点，涵盖从健康到经济的各个方面。它从联合国、世界卫生组织、疾病控制中心和人口普查局等可靠来源获取信息。通过将这些数据集整合成一个强大的工具集和AI模型，Data Commons帮助政策制定者、研究人员和组织获得所需的准确洞察。

想象一个庞大的数据库，你可以用简单的中文提问，比如哪些非洲国家电力普及率增长最快，或者美国各县的收入与糖尿病的关系如何。这就是Data Commons的魅力。

Data Commons如何帮助对抗幻觉

随着越来越多的人使用生成式AI，我们致力于通过将Data Commons融入Gemma（我们轻量级、顶尖的开源模型家族），使这些体验更加可靠。这些DataGemma模型现已向研究人员和开发者开放。

DataGemma通过利用Data Commons的知识，采用两种独特方法提升LLMs的准确性和推理能力：

1. RIG（检索交错生成）通过主动对比Data Commons的数据，增强了我们的Gemma 2模型。当你向DataGemma提问时，它会从Data Commons中检索统计数据，提供可靠的答案。虽然RIG不是新概念，但我们在DataGemma中的应用方式相当独特。

   示例查询：“全球可再生能源使用量增加了吗？”应用DataGemma RIG方法利用Data Commons（DC）提供权威数据。

2. RAG（检索增强生成）让语言模型在训练数据之外引入额外信息，使回答更丰富、更准确。借助DataGemma，我们利用Gemini 1.5 Pro的长上下文窗口，在模型生成回答前从Data Commons获取相关数据，减少幻觉。

   示例查询：“全球可再生能源使用量增加了吗？”应用DataGemma RAG方法展示更强的推理能力和脚注包含。

初步成果与未来展望

我们在RIG和RAG的早期测试表现良好。模型在处理数字时准确性提高，意味着研究、决策或满足好奇心的用户会遇到更少的幻觉。你可以在我们的研究论文中查看这些结果。