“更少的是：檢索更少的文檔如何增強AI響應”

檢索增強生成（RAG）是一種創新的AI系統構建方法，將語言模型與外部知識來源結合，以提高準確性並減少事實錯誤。本質上，AI會搜索與用戶查詢相關的文件，並利用這些信息生成更精確的回應。這種方法因其能讓大型語言模型（LLMs）植根於真實數據，減少幻覺風險而獲得認可。

你可能會認為，提供給AI更多文件會導致更具信息量的回答。然而，耶路撒冷希伯來大學的最新研究表明，情況並非如此：在向AI提供信息時，少即是多。

更少文件，更佳回答

該研究深入探討了提供給RAG系統的文件數量如何影響其性能。研究人員保持總文本長度一致，將文件數量從20份減少到2-4份相關文件，並擴展這些文件以匹配原始文本量。這使他們能夠隔離文件數量對性能的影響。

使用MuSiQue數據集（包含與維基百科段落配對的瑣事問題），他們發現AI模型在文件較少時通常表現更好。當系統專注於少數關鍵文件而非廣泛收集時，準確性提高了高達10%（以F1分數衡量）。這一趨勢在多個開源語言模型（如Meta的Llama）中均成立，Qwen-2是顯著的例外，其在多文件情況下仍保持性能。

來源：Levy等人

這一令人意外的結果挑戰了普遍認為更多信息總是有助的觀念。即使文本量相同，多份文件的存在似乎使AI任務變得更複雜，引入了更多噪聲而非信號。

為何在RAG中少即是多

當我們考慮AI模型如何處理信息時，“少即是多”的原則就顯得合理。使用更少、更相關的文件，AI能專注於核心情境而不受干擾，就像學生專注於最相關的學習材料。

在研究中，當僅提供與答案直接相關的文件時，模型表現更好，因為這種更乾淨、聚焦的情境使提取正確信息更容易。相反，當AI需要篩選大量文件時，常因混雜的相關與無關內容而掙扎。相似但不相關的文件可能誤導模型，增加幻覺風險。

有趣的是，研究發現，AI更容易忽略明顯無關的文件，而非那些微妙偏離主題的文件。這表明現實的干擾因素比隨機的更具混淆性。通過將文件限制在必要範圍內，我們降低了設置這種陷阱的可能性。

此外，使用更少文件降低了計算開銷，使系統更高效且成本效益更高。這種方法不僅提高了準確性，還提升了RAG系統的整體性能。

來源：Levy等人

重新思考RAG：未來方向

這些發現對依賴外部知識的未來AI系統設計具有重要意義。它表明，專注於檢索文件的質量和相關性，而非數量，可能提升性能。研究作者提倡檢索方法應平衡相關性和多樣性，確保全面覆蓋而不讓模型因多餘文本而過載。

未來研究可能探索更好的檢索系統或重新排序器，以識別真正有價值的文件，並改進語言模型處理多來源的方式。如Qwen-2所示，增強模型本身也可能提供使模型對多樣輸入更穩健的見解。

隨著AI系統發展出更大的上下文窗口，處理更多文本的能力變得不如確保文本相關且精選來得重要。題為“更多文件，相同長度”的研究強調了專注於最相關信息以提高AI準確性和效率的重要性。

總之，這項研究挑戰了我們對AI系統數據輸入的假設。通過謹慎選擇更少、更好的文件，我們可以創建更智能、更精簡的RAG系統，提供更準確且可信的回答。