“更少的是：检索更少的文档如何增强AI响应”

检索增强的生成（RAG）是一种构建AI系统的创新方法，将语言模型与外部知识源相结合，以提高准确性并减少事实错误。本质上，AI搜索与用户查询有关的相关文档，并使用此信息来生成更精确的响应。这种方法因其保持基于实际数据的大型语言模型（LLM）的能力而获得认可，从而最大程度地减少了幻觉的风险。

您可能会认为，提供更多文档的AI会导致更有信息的答案。但是，耶路撒冷希伯来大学的最新研究表明：当涉及将信息提供给AI时，少的确实可以更多。

更少的文件，更好的答案

该研究深入研究了提供给抹布系统的文档数量如何影响其性能。研究人员保持了一致的总文本长度，将文档的数量从20个调整到2-4个相关的文本长度，并将其扩展以匹配原始文本卷。这使他们能够隔离文档数量对性能的影响。

他们使用Musique数据集（包括琐事问题与Wikipedia段落配对），他们发现AI模型通常在更少的文档中表现得更好。当系统仅关注几个关键文档而不是广泛的收集时，准确性提高了10％（通过F1分数衡量）。这种趋势在各种开源语言模型（例如Meta's Llama）中持有，QWEN-2是显着的例外，可以通过多个文档保持其性能。

资料来源：Levy等。

这种令人惊讶的结果挑战了普遍的信念，即更多的信息总是有帮助。即使有相同数量的文本，多个文档的存在似乎也使AI的任务复杂化，引入了比信号更多的噪声。

为什么在抹布中更少

当我们考虑AI模型如何处理信息时，“更少”的原则是有意义的。随着更少，更相关的文档，AI可以将重点放在基本环境上，而不会分心，就像研究最相关材料的学生一样。

在研究中，仅给出与答案直接相关的文档时，模型的性能更好，因为这种清洁剂，重点的上下文使提取正确的信息变得更加容易。相反，当AI不得不筛选许多文档时，它经常在相关和无关紧要的内容的混合中挣扎。相似但无关的文件可能会误导该模型，从而增加幻觉的风险。

有趣的是，该研究发现，与巧妙的主题相比，AI可以更容易地忽略明显无关紧要的文件。这表明现实的干扰因素比随机分散者更令人困惑。通过将文档仅限于必要的文件，我们减少了设置此类陷阱的可能性。

此外，使用较少的文档降低了计算开销，从而使系统更有效和成本效益。这种方法不仅提高了准确性，还可以提高抹布系统的整体性能。

资料来源：Levy等。

重新思考抹布：未来的方向

这些发现对依赖外部知识的未来AI系统的设计具有重要意义。它表明，专注于检索文档的质量和相关性，而不是其数量可以提高性能。该研究的作者提倡取回相关性和多样性的检索方法，从而确保全面的覆盖范围，而不会用外文本压倒模型。

未来的研究可能会探索更好的检索系统或重新级别，以识别真正有价值的文档并改善语言模型处理多个来源的方式。从QWEN-2看，增强模型本身也可以提供有关使它们对各种投入更强大的见解。

随着AI系统开发较大的上下文窗口，与确保文本相关和策划的能力立即处理更多文本变得不那么关键。该研究的标题为“更多文档，相同长度”，强调了专注于提高AI准确性和效率的最相关信息的重要性。

总之，这项研究挑战了我们对AI系统数据输入的假设。通过仔细选择更少，更好的文档，我们可以创建更智能，更精简的抹布系统，从而提供更准确和值得信赖的答案。