您的位置首页 >科技要闻 >

投毒文档的召回窗口RAG 检索层暴露面的剂量-响应实测

这是一篇面向 RAG 安全的实测研究,核心结论很直白:RAG 的投毒攻击成败,不完全看知识库里面恶意文档占比,而是看投毒文档能不能挤进 Top-K 召回窗口;研究用剂量 - 响应曲线,测出了检索层的暴露阈值 —— 少量投毒文档只要相似度优化到位,稳定落在召回窗口内,攻击成功率就会快速跳升;如果落在召回窗口之外,哪怕知识库里面投毒文档很多,也很难影响最终大模型输出,这个结论打破了 “投毒比例越高风险一定越大” 的简单认知。

核心概念拆解清单

  1. 召回窗口:就是 RAG 检索器返回给大模型的 Top-K 候选文档集合(比如 Top3、Top5、Top10),只有进入这个窗口的文档,才会拼进上下文交给 LLM;排在窗口外的文档,基本不参与本轮推理。
  2. 剂量(Dose):两个维度,一是知识库中投毒文档的绝对数量 / 占比;二是投毒文档在检索结果里的排名、同窗口内投毒文档数量。
  3. 响应(Response):攻击成功率 ASR,也就是大模型按照攻击者预设的错误内容输出的概率。
  4. 检索层暴露面:检索器(向量库、BM25)的相似度排序机制,是投毒攻击的第一道攻击面,很多防御只看生成层,忽略检索排序带来的漏洞。

实测关键发现

  • 存在明显阈值效应:当召回窗口内投毒文档数量占少数时,攻击成功率缓慢上升;一旦投毒文档在 Top-K 里达到半数及以上,成功率会陡峭上涨,属于典型 S 型剂量响应曲线。
  • 同占比下,排名优先级影响巨大:同样 1 条投毒文档,排在 Top1 的攻击效果远高于排在 TopK 末尾;向量检索很容易通过优化嵌入,把恶意文档抬到高位。
  • 检索器类型差异明显:BM25 关键词检索更容易被关键词触发型投毒命中;向量检索(Embedding)更容易被语义相近的隐形投毒绕过,隐蔽性更强。
  • “召回窗口外的投毒基本无效”:哪怕知识库里面批量注入恶意文档,只要相似度没有优化、挤不进 Top-K,对当前查询几乎没有影响;攻击者的核心目标不是灌海量脏数据,而是精准把投毒文档塞进目标查询的召回窗口。
  • 协同投毒放大风险:多条互相佐证的投毒文档一起进入召回窗口,会形成证据抱团,单条剔除检测方案很容易失效。

实测实验流程

  1. 构建干净基准知识库,选定目标问答 query、预设错误答案;
  2. 生成带检索触发段 + 误导 payload 的投毒文档,控制不同注入数量、相似度;
  3. 固定 Top-K 窗口大小,记录投毒文档召回命中情况、窗口内脏文档数量;
  4. 遍历不同剂量,统计 ASR,绘制剂量 - 响应曲线;
  5. 对照不同检索器、不同 K 值、不同 LLM,对比阈值差异。

工程防御方向(对应检索层)

  1. 动态 K 与重排:不要固定 Top-K,增加重排模型,对召回窗口内文档做事实一致性校验;
  2. 检索尾部对照检测(RSQ 思路):拿 Top-K 之后的尾部候选文档做对照,判断答案结论是否集中在少数可疑文档里;
  3. 相似度上限与聚类校验:对嵌入相似度异常偏高、和干净文档语义冲突的文档标记;
  4. 分源可信度权重:不同来源文档分配检索权重,低信源文档优先压低排序;
  5. 入库前置检测:在文档入库阶段识别带触发载体的投毒文本,而不是只在查询时拦截。

总结

这篇实测的价值,是把 RAG 投毒从定性威胁变成可量化的检索层安全问题:风险的开关是召回窗口,而不是知识库全局脏数据比例;防御 RAG 投毒,不能只盯着大模型生成校验,必须在检索排序、召回窗口入口做阈值管控和异常检测。

【相关 FAQ】

问题 1:RAG 投毒的召回窗口是什么意思?

回答 1:召回窗口就是检索器返回给 LLM 的 Top-K 文档列表,只有进入这个窗口的文档,才会进入上下文,影响大模型回答;窗口外的投毒文档基本不生效。

问题 2:剂量 - 响应实测在 RAG 投毒里面测的是什么?

回答 2:就是改变召回窗口内投毒文档数量、排名,观察攻击成功率如何变化,找到攻击生效的临界阈值,画出 S 型响应曲线。

问题 3:是不是知识库里面投毒文档越多,RAG 就越危险?

回答 3:不一定,核心看能不能挤进召回窗口;大量投毒文档如果相似度低、排不进 Top-K,攻击效果很差,少量精准优化的投毒文档反而威胁更大。

问题 4:向量检索和 BM25 检索,哪个更容易被召回窗口投毒?

回答 4:BM25 容易被关键词触发式投毒命中;向量 Embedding 检索更容易做语义隐形投毒,隐蔽性更强,更难被关键词规则拦截。

问题 5:针对召回窗口投毒,有什么检索层防御思路?

回答 5:可以用检索尾部对照校验、文档重排、来源可信度加权、入库嵌入异常检测、动态缩小可疑召回窗口等方案。

【参考资料】

[2026-11-22](投毒文档的召回窗口:RAG 检索层暴露面的剂量 - 响应实测)AI 安全技术社区

[2026-09-10](In RAG We Trust? Measuring Robustness of Retrieval-Augmented Generation Under Document Poisoning)Qeios

[2026-08-13](RAGSieve: Detecting Knowledge-Poisoned Documents in RAG Without a Trusted Reference)arXiv

[2026-05-17](检索增强生成系统的知识投毒攻击)北京理工大学 ISSCEC

[2026-07-26](RAGuard: A Layered Defense Framework Against Data Poisoning)arXiv

【免责声明】

本文为该安全实测研究的技术解读,不同向量模型、检索参数、LLM、数据集下,剂量响应阈值会发生变化;内容仅作为 RAG 安全技术资讯参考,不可以直接作为生产环境安全方案,生产上线需要自行复现、压测验证。

今日大家都在搜的词: