清华团队提出 KARE-RAG，训练生成器抗噪而非优化检索器
清华OpenBMB团队提出KARE-RAG,不优化检索器转而训练生成器抗噪,配合DDPO偏好优化,在Llama-3.1-8B上跨领域EM和F1均有提升。
AI 深度解读
清华大学与OpenBMB团队反其道而行,不去优化RAG的检索器,而是训练生成器在带噪声的上下文里也能稳定利用信息,提出的KARE-RAG方法在权威基准上跑出了实打实的提升。
- 传统RAG优化路线大多在“让检索器找回更干净的文档”上打转,KARE-RAG换了个假设:噪声难以根除,不如让生成器学会带噪工作
- 方法把生成过程拆成三步:知识图谱构建、链式推理、答案生成,层层递进降低噪声干扰
- 提出DDPO(密集直接偏好优化),专门解决标准DPO在结构化输出场景下权重被浪费的问题
- 在Llama-3.1-8B上验证,跨领域精确匹配(EM)提升4.18%,F1提升3.52%
- 关键是不需要改动标准RAG的推理管线,迁移成本低
- 对还在纠结“要不要换更贵检索器”的团队,这提供了一条更便宜的替代路线——把功夫下在生成端的鲁棒性上。