标题:UIUC 等提出 Ask to Distill,让大模型学会主动提问革新知识蒸馏
UIUC 联合港科大、德州农工大学推出 Ask to Distill(简称 A2D)新框架,把传统知识蒸馏从 “学生被动回答问题” 改成学生主动生成问题、向教师大模型提问获取监督信号,不用现成标准答案,就能生成高质量训练数据,大幅提升模型蒸馏效果。以往知识蒸馏,都是拿现成数据集提问,教师模型输出答案教学生模型,数据质量直接决定蒸馏好坏,高质量标注数据获取成本很高。Ask to Distill 思路完全反转,由学生模型自主产出问题,再评估这个问题能不能挖出教师模型里更多有用知识,通过强化学习持续优化问题生成器,在数学推理、代码生成、智能体任务上,效果超过普通真实数据集蒸馏方案。实验结果显示,A2D 生成的问题,学生模型回答长度减少约 20%,但拿到的有效学习信号提升 28%,用更少的文本就能完成高效知识迁移。
一、Ask to Distill 核心概念
- 全称:Ask to Distill,缩写 A2D,面向在策略蒸馏(OPD)的合成问题优化框架
- 研发机构:伊利诺伊大学厄巴纳 - 香槟分校 UIUC、香港科技大学、德州农工大学
- 核心创新:学生模型主动造问题,不再依赖外部标注数据集、不需要参考答案
- 底层逻辑:问题本身就是知识载体,评估问题价值看它能激发多少教师模型的监督信息,而不是看答案对错
二、传统知识蒸馏 vs Ask to Distill 对比
| 项目 | 传统知识蒸馏 | Ask to Distill(A2D) |
|---|---|---|
| 数据来源 | 外部现成标注数据集 | 学生模型自主生成问题 |
| 是否需要标准答案 | 依赖标注、正确答案 | 无需参考答案 |
| 训练逻辑 | 固定问题,教师输出答案教学生 | 生成器不断优化问题,挖掘教师隐藏知识 |
| 评价标准 | 答案准确率 | 问题所能激发的教师监督信号密度 |
三、Ask to Distill 完整工作流程
- 初始化问题生成器,以学生模型为基础,自动产出各类问题
- 固定教师、学生模型,计算问题价值奖励,奖励由师生模型预测差异、教师概率分布,外加长度、多样性约束共同构成
- 使用强化学习迭代优化问题生成器,筛选出最能挖掘教师知识的问题
- 对生成的问题做去重过滤,构建提示词库,用于标准在策略蒸馏训练
- 学生模型使用这批优化后的问题继续蒸馏训练,缩小和教师模型之间的能力差距
四、实测效果与适用任务
- 任务覆盖:数学推理、代码生成、AI 智能体任务三大方向验证
- 性能对比:优于未优化的学生自生成提示词、经过 KL 筛选的真实数据集,部分场景持平甚至超过真实题库蒸馏效果
- 信号效率:学生回答变短约 20%,有效学习信号提升 28%,学习效率更高
- 开源信息:论文配套代码、数据集全部开源,开发者可直接复现实验
五、这项技术带来的行业意义
大模型蒸馏长期被高质量标注数据限制,收集、标注数据集成本高昂。Ask to Distill 用模型自问自蒸馏的模式,降低对外部人工标注数据依赖,小模型可以主动找到自己知识缺口,针对性向大教师模型提问,未来有助于低成本把大模型能力迁移到端侧小模型,在 AI Agent、代码模型、推理模型压缩领域有很大落地潜力。
【常见问题】
问题 1:Ask to Distill 是什么,UIUC 提出该框架核心创新是什么?
回答 1:Ask to Distill 是 UIUC 等机构提出的知识蒸馏新框架,核心创新是让学生大模型主动生成问题向教师模型提问,不再依赖外部标准答案,实现高效的在策略蒸馏。
问题 2:Ask to Distill 和传统知识蒸馏最大区别在哪里?
回答 2:传统知识蒸馏依靠外部数据集提问,Ask to Distill 由学生模型自主产出问题,评估维度不是答案对错,而是问题能挖掘多少教师模型的有效监督信号。
问题 3:Ask to Distill 在实验中取得了哪些效果提升?
回答 3:Ask to Distill 生成的问题可让学生模型回答长度减少约 20%,获取的有效学习信号提升 28%,在数学推理、代码生成、智能体任务上性能优于多种基线方案。
问题 4:Ask to Distill 训练过程中,是否需要准备标准答案数据集?
回答 4:Ask to Distill 训练时不需要标准答案,依靠冻结的师生模型预测分布计算奖励,自主筛选有价值问题,降低标注数据依赖。
【参考资料】
[2026-11-18](让大模型学会向老师提问:UIUC 等提出 Ask to Distill,让知识蒸馏从「回答问题」走向「优化问题」)新浪财经
[2026-10-20](Ask to Distill: Learning to Synthesize Data for On-Policy Distillation)arXiv
[2026-10-22](Distillation shorts: Ask-to-Distill, Privileged Information for Self-Distillation)Bayesiansapien 技术博客
[2026-10-20](Ask to Distill 论文开源项目介绍)GitHub
【免责声明】
本文内容仅为 AI 学术论文资讯整理,Ask to Distill 属于前沿实验室研究成果,尚未大规模工业落地,实际落地效果、部署成本以论文和开源项目最新版本为准,不构成技术选型建议。
