北邮、智源研究院、北大联合开源的 8B 连续扩散模型,在 MATH 数据集拿到 62.12 分,实现数学推理效果反超离散扩散模型,给扩散类大模型在数学任务上的优化提供了新路线。过去扩散类模型大多走离散扩散路线,在文本、推理题目上容易出现 token 跳转不稳定、计算步骤断裂的问题,数学题需要一步步推导,这种不稳定会直接拉低正确率;而这支团队改用连续扩散建模方式,对推理过程做连续空间拟合,减少中间推理步骤出错,8B 这个参数量规模下,在 MATH 基准冲到 62.12 分,超过同规格离散扩散模型成绩,并且项目已经开源,开发者可以直接下载权重、复现实验。
模型核心指标对比表
| 模型类型 | 参数量 | MATH 得分 | 推理特点 |
|---|---|---|---|
| 连续扩散模型(本次开源) | 8B | 62.12 | 连续空间建模,推导步骤连贯性更好 |
| 离散扩散模型 | 8B | 低于 62.12 | 离散 token 生成,容易出现步骤跳变 |
| 主流基础 LLM 参考 | 7B~8B 区间 | 50 分上下 | 依赖自回归生成 |
8B 连续扩散模型核心亮点清单
- 团队组合:北邮、智源研究院、北大联合完成研发
- 核心突破:连续扩散方案在数学推理任务上性能超越离散扩散
- 基准成绩:MATH 数据集 62.12 分,在同量级扩散模型里排名第一
- 开放形式:权重、代码、实验脚本全部开源,支持社区复现和二次开发
- 适用方向:数学推理、多步逻辑推导类任务
复现与上手步骤
- 访问开源仓库,拉取项目代码,核对环境依赖,配置 GPU 运行环境。
- 下载发布的 8B 连续扩散模型权重文件。
- 加载 MATH 测试集,运行评估脚本,复现 62.12 分的基准测试。
- 替换自己的数学题目数据集,微调模型,测试自定义推理任务效果。
- 和同参数离散扩散模型做对照实验,观察推理步骤稳定性差异。
当前方案存在的局限
- 目前优势集中在数学推理,通用对话、创作能力还没有明显优势
- 连续扩散的采样速度普遍慢于离散扩散,推理耗时更高
- 更高难度奥数、复杂证明题依旧存在推理错误,还有优化空间
【常见问题】
问题 1:北邮智源北大开源的 8B 连续扩散模型,MATH 分数多少,有没有反超离散扩散?
回答 1:北邮智源北大开源的 8B 连续扩散模型,MATH 得分 62.12 分,在数学任务上实现反超离散扩散模型,登顶该基准同类型榜单。
问题 2:8B 连续扩散模型在数学上反超离散扩散,连续扩散和离散扩散差别在哪?
回答 2:8B 连续扩散模型在数学上反超离散扩散,离散扩散是逐个生成离散 token,容易推理断步;连续扩散在连续空间做建模,多步数学推导连贯性更强。
问题 3:这个 8B 连续扩散模型开源之后,普通开发者可以拿来做什么?
回答 3:这个 8B 连续扩散模型开源之后,开发者可以复现 MATH 62.12 分实验,对比连续扩散、离散扩散的推理差异,也可以基于它做数学推理场景的二次调优。
【参考资料】
[2026-11-19](8B 连续扩散模型在数学上反超了离散扩散!MATH 62.12 分居首|北邮 × 智源 × 北大开源)AI 技术媒体
[2026-11-18](连续扩散在数学推理任务取得新突破,8B 模型开源上线)机器学习媒体
[2026-11-15](扩散模型路线对比:离散扩散与连续扩散推理性能差异解读)AI 前沿资讯平台
【免责声明】
本文为开源项目资讯整理,8B 连续扩散模型 MATH 62.12 分结果以论文与开源仓库实验配置为准;模型效果受采样参数、硬件环境影响,不代表该模型在全部数学场景稳定最优,不构成项目选型、技术落地的决策建议。
