您的位置首页 >人工智能 >

学术证实,大模型越狱能力可以通过对抗提示蒸馏转移至小模型

现有多篇大模型安全方向论文已经证实,大模型具备的越狱能力确实能够蒸馏传给小模型,但不是直接把 “绕过安全护栏” 的完整内置本能原样复制过来,主流路线是对抗提示蒸馏,让小模型学会生成高成功率的越狱提示词,也可以通过黑盒行为蒸馏,让小模型复刻老师模型碰到特定触发词之后绕过对齐的输出习惯;它有明显上限,小模型不会达到原大模型同等越狱成功率,而且蒸馏出来的能力高度依赖训练时用的提示分布,如果目标模型更新安全防护,这套蒸馏得到的越狱套路很容易失效,这项研究主要用来暴露对齐方案的缺陷,帮助团队做红队安全测试,并不是成熟稳定的攻击手段。

两条主流蒸馏路线清单

  • 对抗提示蒸馏 APD:大模型作为教师,产出大量具备越狱效果的对抗提示,用动态温度蒸馏搭配强化学习,训练小模型专门生成这类提示,让轻量模型变成越狱提示生成器,适合批量攻击其他大模型。
  • 黑盒行为蒸馏:反复调用目标大模型,收集它在普通提示、越狱提示之下的全部回复,用这批数据微调小模型,复刻它 “正常提问合规、特定提示下松绑” 的行为,不需要拿到原模型权重。
  • 后门联动蒸馏:如果教师模型带有触发式后门,特定后门行为包括越狱,也有机会顺着蒸馏流程留在学生模型权重内部,隐蔽性更强。

不同蒸馏方案对比

方案小模型学到什么是否需要原模型权重优点短板
对抗提示蒸馏生成越狱提示词不需要,只用输出推理快、体积小、可批量生成攻击 prompt只擅长造提示,本身未必会直接输出有害内容
行为模仿蒸馏复刻越狱时的输出风格不需要,API 即可采集小模型自己就能在触发后输出违规内容成本更高,容易被安全过滤器拦截
权重全量蒸馏近似全套行为需要权重保真度最高算力消耗巨大,一般很少用来专门转移越狱能力

蒸馏越狱能力大致操作步骤

  1. 先准备教师大模型,用自动攻击算法或者人工构造,收集能够触发越狱的提示与对应的模型回复。
  2. 筛选样本,剔除失败案例,保留高攻击成功率的提示、回复对,构建对抗蒸馏数据集。
  3. 使用知识蒸馏损失,配合 LoRA、动态温度调度等方式训练小模型,对齐教师的输出分布。
  4. 使用强化学习,以攻击是否绕过安全护栏作为奖励信号,持续优化小模型生成的提示。
  5. 在独立测试集上评估攻击成功率,测试跨模型迁移效果,记录在新防护下的失效比例。
  6. 如果用于安全防御研究,再以此为依据迭代输入检测、模型对齐、红队数据集。

能力边界与防御思路

就算完成蒸馏,小模型的越狱能力也存在泛化短板,只对和训练分布相近的模型、相近版本防护有效;一旦厂商升级安全对齐、增加提示检测器、输出扰动、模型水印,蒸馏出来的越狱手段成功率会快速下滑。对应的防御方向包括在对外输出时加入噪声,降低可供蒸馏的行为信号;使用动态安全护栏,定期轮换检测规则;在蒸馏数据集阶段做清洗,过滤掉对抗样本,避免不安全行为顺着微调扩散。

【常见问题】

问题 1:把大模型越狱能力蒸馏给小模型之后,小模型是不是和大模型一样好越狱?

回答 1:不是,蒸馏得到的越狱能力存在衰减,把大模型越狱能力蒸馏给小模型之后,攻击成功率、泛化范围通常低于原始大模型,遇到更新后的安全防护更容易失效。

问题 2:对抗提示蒸馏,是让小模型本身学会越狱还是学会制造越狱提示?

回答 2:对抗提示蒸馏把大模型越狱能力转移给小模型,主要是教会小模型自动生成对抗越狱提示,拿这些提示再去攻击别的大模型。

问题 3:只用 API,没有拿到大模型权重,能不能把大模型越狱能力蒸馏给小模型?

回答 3:可以,依靠黑盒行为蒸馏,只通过大量调用 API、采集回复样本,就有机会把大模型越狱能力蒸馏给小模型,不需要原始权重。

问题 4:这种把大模型越狱能力蒸馏给小模型的研究,一般用来干什么?

回答 4:这类将大模型越狱能力蒸馏给小模型的研究,大多属于 AI 安全红队测试,用来找出对齐机制、安全护栏存在的可迁移漏洞,辅助优化模型防护。

【参考资料】

[2026-05-26](Adversarial Prompt Distillation: Efficient Jailbreak Attacks from Large to Small Language Models)ACL Anthology

[2026-03-12](Jailbreak Transferability Emerges from Shared Representations)ICLR

[2025-11-10](Efficient and Stealthy Jailbreak Attacks via Adversarial Prompt Distillation from LLMs to SLMs)arXiv

[2025-12-11](Black-Box Behavioral Distillation Breaks Safety Alignment in Medical LLMs)arXiv

【免责声明】

以上内容仅为 AI 安全学术研究层面科普,不提供任何可直接实施的攻击方案;将大模型越狱能力蒸馏给小模型、使用越狱提示诱导模型输出违规内容,存在法律风险与伦理风险;模型厂商持续迭代安全机制,相关攻击效果随时可能失效。

今日大家都在搜的词: