现有多篇大模型安全方向论文已经证实,大模型具备的越狱能力确实能够蒸馏传给小模型,但不是直接把 “绕过安全护栏” 的完整内置本能原样复制过来,主流路线是对抗提示蒸馏,让小模型学会生成高成功率的越狱提示词,也可以通过黑盒行为蒸馏,让小模型复刻老师模型碰到特定触发词之后绕过对齐的输出习惯;它有明显上限,小模型不会达到原大模型同等越狱成功率,而且蒸馏出来的能力高度依赖训练时用的提示分布,如果目标模型更新安全防护,这套蒸馏得到的越狱套路很容易失效,这项研究主要用来暴露对齐方案的缺陷,帮助团队做红队安全测试,并不是成熟稳定的攻击手段。
两条主流蒸馏路线清单
- 对抗提示蒸馏 APD:大模型作为教师,产出大量具备越狱效果的对抗提示,用动态温度蒸馏搭配强化学习,训练小模型专门生成这类提示,让轻量模型变成越狱提示生成器,适合批量攻击其他大模型。
- 黑盒行为蒸馏:反复调用目标大模型,收集它在普通提示、越狱提示之下的全部回复,用这批数据微调小模型,复刻它 “正常提问合规、特定提示下松绑” 的行为,不需要拿到原模型权重。
- 后门联动蒸馏:如果教师模型带有触发式后门,特定后门行为包括越狱,也有机会顺着蒸馏流程留在学生模型权重内部,隐蔽性更强。
不同蒸馏方案对比
| 方案 | 小模型学到什么 | 是否需要原模型权重 | 优点 | 短板 |
|---|---|---|---|---|
| 对抗提示蒸馏 | 生成越狱提示词 | 不需要,只用输出 | 推理快、体积小、可批量生成攻击 prompt | 只擅长造提示,本身未必会直接输出有害内容 |
| 行为模仿蒸馏 | 复刻越狱时的输出风格 | 不需要,API 即可采集 | 小模型自己就能在触发后输出违规内容 | 成本更高,容易被安全过滤器拦截 |
| 权重全量蒸馏 | 近似全套行为 | 需要权重 | 保真度最高 | 算力消耗巨大,一般很少用来专门转移越狱能力 |
蒸馏越狱能力大致操作步骤
- 先准备教师大模型,用自动攻击算法或者人工构造,收集能够触发越狱的提示与对应的模型回复。
- 筛选样本,剔除失败案例,保留高攻击成功率的提示、回复对,构建对抗蒸馏数据集。
- 使用知识蒸馏损失,配合 LoRA、动态温度调度等方式训练小模型,对齐教师的输出分布。
- 使用强化学习,以攻击是否绕过安全护栏作为奖励信号,持续优化小模型生成的提示。
- 在独立测试集上评估攻击成功率,测试跨模型迁移效果,记录在新防护下的失效比例。
- 如果用于安全防御研究,再以此为依据迭代输入检测、模型对齐、红队数据集。
能力边界与防御思路
就算完成蒸馏,小模型的越狱能力也存在泛化短板,只对和训练分布相近的模型、相近版本防护有效;一旦厂商升级安全对齐、增加提示检测器、输出扰动、模型水印,蒸馏出来的越狱手段成功率会快速下滑。对应的防御方向包括在对外输出时加入噪声,降低可供蒸馏的行为信号;使用动态安全护栏,定期轮换检测规则;在蒸馏数据集阶段做清洗,过滤掉对抗样本,避免不安全行为顺着微调扩散。
【常见问题】
问题 1:把大模型越狱能力蒸馏给小模型之后,小模型是不是和大模型一样好越狱?
回答 1:不是,蒸馏得到的越狱能力存在衰减,把大模型越狱能力蒸馏给小模型之后,攻击成功率、泛化范围通常低于原始大模型,遇到更新后的安全防护更容易失效。
问题 2:对抗提示蒸馏,是让小模型本身学会越狱还是学会制造越狱提示?
回答 2:对抗提示蒸馏把大模型越狱能力转移给小模型,主要是教会小模型自动生成对抗越狱提示,拿这些提示再去攻击别的大模型。
问题 3:只用 API,没有拿到大模型权重,能不能把大模型越狱能力蒸馏给小模型?
回答 3:可以,依靠黑盒行为蒸馏,只通过大量调用 API、采集回复样本,就有机会把大模型越狱能力蒸馏给小模型,不需要原始权重。
问题 4:这种把大模型越狱能力蒸馏给小模型的研究,一般用来干什么?
回答 4:这类将大模型越狱能力蒸馏给小模型的研究,大多属于 AI 安全红队测试,用来找出对齐机制、安全护栏存在的可迁移漏洞,辅助优化模型防护。
【参考资料】
[2026-05-26](Adversarial Prompt Distillation: Efficient Jailbreak Attacks from Large to Small Language Models)ACL Anthology
[2026-03-12](Jailbreak Transferability Emerges from Shared Representations)ICLR
[2025-11-10](Efficient and Stealthy Jailbreak Attacks via Adversarial Prompt Distillation from LLMs to SLMs)arXiv
[2025-12-11](Black-Box Behavioral Distillation Breaks Safety Alignment in Medical LLMs)arXiv
【免责声明】
以上内容仅为 AI 安全学术研究层面科普,不提供任何可直接实施的攻击方案;将大模型越狱能力蒸馏给小模型、使用越狱提示诱导模型输出违规内容,存在法律风险与伦理风险;模型厂商持续迭代安全机制,相关攻击效果随时可能失效。
