“更少的是:檢索更少的文檔如何增強AI響應”
檢索增強生成(RAG)是一種創新的AI系統構建方法,將語言模型與外部知識來源結合,以提高準確性並減少事實錯誤。本質上,AI會搜索與用戶查詢相關的文件,並利用這些信息生成更精確的回應。這種方法因其能讓大型語言模型(LLMs)植根於真實數據,減少幻覺風險而獲得認可。
你可能會認為,提供給AI更多文件會導致更具信息量的回答。然而,耶路撒冷希伯來大學的最新研究表明,情況並非如此:在向AI提供信息時,少即是多。
更少文件,更佳回答
該研究深入探討了提供給RAG系統的文件數量如何影響其性能。研究人員保持總文本長度一致,將文件數量從20份減少到2-4份相關文件,並擴展這些文件以匹配原始文本量。這使他們能夠隔離文件數量對性能的影響。
使用MuSiQue數據集(包含與維基百科段落配對的瑣事問題),他們發現AI模型在文件較少時通常表現更好。當系統專注於少數關鍵文件而非廣泛收集時,準確性提高了高達10%(以F1分數衡量)。這一趨勢在多個開源語言模型(如Meta的Llama)中均成立,Qwen-2是顯著的例外,其在多文件情況下仍保持性能。
來源:Levy等人
這一令人意外的結果挑戰了普遍認為更多信息總是有助的觀念。即使文本量相同,多份文件的存在似乎使AI任務變得更複雜,引入了更多噪聲而非信號。
為何在RAG中少即是多
當我們考慮AI模型如何處理信息時,“少即是多”的原則就顯得合理。使用更少、更相關的文件,AI能專注於核心情境而不受干擾,就像學生專注於最相關的學習材料。
在研究中,當僅提供與答案直接相關的文件時,模型表現更好,因為這種更乾淨、聚焦的情境使提取正確信息更容易。相反,當AI需要篩選大量文件時,常因混雜的相關與無關內容而掙扎。相似但不相關的文件可能誤導模型,增加幻覺風險。
有趣的是,研究發現,AI更容易忽略明顯無關的文件,而非那些微妙偏離主題的文件。這表明現實的干擾因素比隨機的更具混淆性。通過將文件限制在必要範圍內,我們降低了設置這種陷阱的可能性。
此外,使用更少文件降低了計算開銷,使系統更高效且成本效益更高。這種方法不僅提高了準確性,還提升了RAG系統的整體性能。
來源:Levy等人
重新思考RAG:未來方向
這些發現對依賴外部知識的未來AI系統設計具有重要意義。它表明,專注於檢索文件的質量和相關性,而非數量,可能提升性能。研究作者提倡檢索方法應平衡相關性和多樣性,確保全面覆蓋而不讓模型因多餘文本而過載。
未來研究可能探索更好的檢索系統或重新排序器,以識別真正有價值的文件,並改進語言模型處理多來源的方式。如Qwen-2所示,增強模型本身也可能提供使模型對多樣輸入更穩健的見解。
隨著AI系統發展出更大的上下文窗口,處理更多文本的能力變得不如確保文本相關且精選來得重要。題為“更多文件,相同長度”的研究強調了專注於最相關信息以提高AI準確性和效率的重要性。
總之,這項研究挑戰了我們對AI系統數據輸入的假設。通過謹慎選擇更少、更好的文件,我們可以創建更智能、更精簡的RAG系統,提供更準確且可信的回答。
相關文章
前OpenAI首席科學家Ilya的SSI首次釋出模型
AI 取得了另一項重大里程碑。在從 OpenAI 離職後,前首席科學家伊利亞·蘇茨克弗(Ilya Sutskever)創立了 Safe Superintelligence Inc.(SSI),該公司最近公佈了其首個模型的詳細資訊。海外社交媒體上的報道指出,該團隊正在利用 TTT(測試時訓練)開發一個緊湊的推理引擎,這是他們在追求安全超級智慧過程中的關鍵進展。這種新穎的架構專注於使模型能夠“學習如何學習”。與在推理過程中保持引數靜態的傳統大型語言模型不同,該引擎在處理現實世界任務時會動態更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026年5月14日,AI應用開發平臺Lovable宣佈參與丹麥硬體初創公司Atech的80萬美元種子輪融資。該輪由Lovable領投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在內的頂級風險投資機構。此次投資標誌著Lovable將“Vibe Coding”概念從純軟體開發戰略擴充套件至硬體工程領域。Atech旨在透過AI驅動的互動式平臺簡化複雜的硬體原型製作。使用者購買基礎硬體套件,並透過AI聊天機器人以自然語言描述其設計概念;系統
Anthropic 將 Claude AI 編碼工具擴充套件至日本,以推動海外增長
Anthropic,一家美國知名的人工智慧公司,正加強其全球推廣力度。週三,該公司在東京舉辦了一場大型開發者活動“Code with Claude”,吸引了近500名軟體工程師參加。該舉措旨在積極將Claude AI工具及相關產品引入日本市場,強調其自主編碼能力在提升企業生產力方面的核心優勢。強調自動化程式碼生成在活動中,Anthropic展示了其先進的自主編碼系統,該系統能夠獨立處理複雜的程式設計任務並最佳化現有程式碼結構。隨著全球對高效開發工具的需求不斷增長,Anthropic希望透過此類活動加強
相關專題推薦
評論 (51)
0/500
이런 연구 결과는 RAG 시스템을 최적화하는 데 정말 중요한 인사이트를 주는 것 같아요. 가끔 검색된 문서가 너무 많으면 AI가 오히려 핵심 내용을 놓치고 산만해지는 걸 본 적 있는데, '적게 가져올수록 더 좋다'는 아이디어가 실제 적용에서 얼마나 효과적일지 궁금해지네요. 프로젝트에 한 번 적용해 봐야겠어요! 👍
Interesante enfoque. A veces menos es más, y en la IA parece no ser diferente. Me pregunto si esa reducción de documentos también podría acelerar las respuestas o si hay algún riesgo de perder contexto clave. 🤔
이거 꽤 흥미롭네요. 문서를 적게 검색할수록 AI 답변이 더 좋아진다고? 🤔 우리 팀 RAG 시스템에 적용해볼까... 그런데 이러면 검색 정밀도가 더 중요해지겠는데, 실제로 구현하기 꽤 까다롭지 않을까?
La RAG est révolutionnaire, mais je me demande si limiter les documents récupérés pourrait parfois manquer des infos cruciales 🤔. Perso, j'opterais pour un juste milieu entre précision et exhaustivité !
檢索增強生成(RAG)是一種創新的AI系統構建方法,將語言模型與外部知識來源結合,以提高準確性並減少事實錯誤。本質上,AI會搜索與用戶查詢相關的文件,並利用這些信息生成更精確的回應。這種方法因其能讓大型語言模型(LLMs)植根於真實數據,減少幻覺風險而獲得認可。
你可能會認為,提供給AI更多文件會導致更具信息量的回答。然而,耶路撒冷希伯來大學的最新研究表明,情況並非如此:在向AI提供信息時,少即是多。
更少文件,更佳回答
該研究深入探討了提供給RAG系統的文件數量如何影響其性能。研究人員保持總文本長度一致,將文件數量從20份減少到2-4份相關文件,並擴展這些文件以匹配原始文本量。這使他們能夠隔離文件數量對性能的影響。
使用MuSiQue數據集(包含與維基百科段落配對的瑣事問題),他們發現AI模型在文件較少時通常表現更好。當系統專注於少數關鍵文件而非廣泛收集時,準確性提高了高達10%(以F1分數衡量)。這一趨勢在多個開源語言模型(如Meta的Llama)中均成立,Qwen-2是顯著的例外,其在多文件情況下仍保持性能。
來源:Levy等人
這一令人意外的結果挑戰了普遍認為更多信息總是有助的觀念。即使文本量相同,多份文件的存在似乎使AI任務變得更複雜,引入了更多噪聲而非信號。
為何在RAG中少即是多
當我們考慮AI模型如何處理信息時,“少即是多”的原則就顯得合理。使用更少、更相關的文件,AI能專注於核心情境而不受干擾,就像學生專注於最相關的學習材料。
在研究中,當僅提供與答案直接相關的文件時,模型表現更好,因為這種更乾淨、聚焦的情境使提取正確信息更容易。相反,當AI需要篩選大量文件時,常因混雜的相關與無關內容而掙扎。相似但不相關的文件可能誤導模型,增加幻覺風險。
有趣的是,研究發現,AI更容易忽略明顯無關的文件,而非那些微妙偏離主題的文件。這表明現實的干擾因素比隨機的更具混淆性。通過將文件限制在必要範圍內,我們降低了設置這種陷阱的可能性。
此外,使用更少文件降低了計算開銷,使系統更高效且成本效益更高。這種方法不僅提高了準確性,還提升了RAG系統的整體性能。
來源:Levy等人
重新思考RAG:未來方向
這些發現對依賴外部知識的未來AI系統設計具有重要意義。它表明,專注於檢索文件的質量和相關性,而非數量,可能提升性能。研究作者提倡檢索方法應平衡相關性和多樣性,確保全面覆蓋而不讓模型因多餘文本而過載。
未來研究可能探索更好的檢索系統或重新排序器,以識別真正有價值的文件,並改進語言模型處理多來源的方式。如Qwen-2所示,增強模型本身也可能提供使模型對多樣輸入更穩健的見解。
隨著AI系統發展出更大的上下文窗口,處理更多文本的能力變得不如確保文本相關且精選來得重要。題為“更多文件,相同長度”的研究強調了專注於最相關信息以提高AI準確性和效率的重要性。
總之,這項研究挑戰了我們對AI系統數據輸入的假設。通過謹慎選擇更少、更好的文件,我們可以創建更智能、更精簡的RAG系統,提供更準確且可信的回答。
前OpenAI首席科學家Ilya的SSI首次釋出模型
AI 取得了另一項重大里程碑。在從 OpenAI 離職後,前首席科學家伊利亞·蘇茨克弗(Ilya Sutskever)創立了 Safe Superintelligence Inc.(SSI),該公司最近公佈了其首個模型的詳細資訊。海外社交媒體上的報道指出,該團隊正在利用 TTT(測試時訓練)開發一個緊湊的推理引擎,這是他們在追求安全超級智慧過程中的關鍵進展。這種新穎的架構專注於使模型能夠“學習如何學習”。與在推理過程中保持引數靜態的傳統大型語言模型不同,該引擎在處理現實世界任務時會動態更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026年5月14日,AI應用開發平臺Lovable宣佈參與丹麥硬體初創公司Atech的80萬美元種子輪融資。該輪由Lovable領投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在內的頂級風險投資機構。此次投資標誌著Lovable將“Vibe Coding”概念從純軟體開發戰略擴充套件至硬體工程領域。Atech旨在透過AI驅動的互動式平臺簡化複雜的硬體原型製作。使用者購買基礎硬體套件,並透過AI聊天機器人以自然語言描述其設計概念;系統
Anthropic 將 Claude AI 編碼工具擴充套件至日本,以推動海外增長
Anthropic,一家美國知名的人工智慧公司,正加強其全球推廣力度。週三,該公司在東京舉辦了一場大型開發者活動“Code with Claude”,吸引了近500名軟體工程師參加。該舉措旨在積極將Claude AI工具及相關產品引入日本市場,強調其自主編碼能力在提升企業生產力方面的核心優勢。強調自動化程式碼生成在活動中,Anthropic展示了其先進的自主編碼系統,該系統能夠獨立處理複雜的程式設計任務並最佳化現有程式碼結構。隨著全球對高效開發工具的需求不斷增長,Anthropic希望透過此類活動加強
이런 연구 결과는 RAG 시스템을 최적화하는 데 정말 중요한 인사이트를 주는 것 같아요. 가끔 검색된 문서가 너무 많으면 AI가 오히려 핵심 내용을 놓치고 산만해지는 걸 본 적 있는데, '적게 가져올수록 더 좋다'는 아이디어가 실제 적용에서 얼마나 효과적일지 궁금해지네요. 프로젝트에 한 번 적용해 봐야겠어요! 👍
Interesante enfoque. A veces menos es más, y en la IA parece no ser diferente. Me pregunto si esa reducción de documentos también podría acelerar las respuestas o si hay algún riesgo de perder contexto clave. 🤔
이거 꽤 흥미롭네요. 문서를 적게 검색할수록 AI 답변이 더 좋아진다고? 🤔 우리 팀 RAG 시스템에 적용해볼까... 그런데 이러면 검색 정밀도가 더 중요해지겠는데, 실제로 구현하기 꽤 까다롭지 않을까?
La RAG est révolutionnaire, mais je me demande si limiter les documents récupérés pourrait parfois manquer des infos cruciales 🤔. Perso, j'opterais pour un juste milieu entre précision et exhaustivité !





首頁






