研究者团队在 Agent Economics 博客发布 FireFlash:一个以开源权重 GLM-5.3-Flash(321B 总参数、每 token 激活 17.4B)为起点、经全参数强化学习后得到的 300B 级终端与编程智能体。它只用 64 张 NVIDIA B300、不到 5 天完成训练,在 Terminal-Bench 4.0 上 Pass@1 达到 46.2%,与 Anthropic Fable 5、GPT-6 Sol 同档,而单次试验成本 0.72 美元,最高推理强度下的 Fable 5 为 22.02 美元,单任务成本低 30 倍以上,团队同时公开了完整训练配方。核心结论是:百卡级集群也能做出前沿级智能体,关键不在堆 GPU,而在任务筛选、奖励设计、训练评测统一 harness 和针对陈旧样本的 RL 校正,让开源模型用一小部分推理成本达到前沿水平。
一、成绩与成本一览
| 指标 | FireFlash | 对比项 |
|---|---|---|
| Terminal-Bench 4.0 Pass@1 | 46.2%(5 次平均,较基座 +10.4 点) | Fable 5、GPT-6 Sol 同档 |
| 单次试验成本 | 0.72 美元 | Fable 5 最高强度 22.02 美元,低 30 倍以上 |
| 训练资源 | 64 张 B300,不到 5 天;最多 7680 GPU・小时,估算约 4.6 万美元 | — |
| 其他基准 | DeepSWE v1.1 +5.4 点(超 Fable 5.1);SWE-Bench Pro Verified +5.1 点(超 Kimi K3、GPT-5.6 Sol) | — |
二、它是什么:起点与训练方式
- 基座:Z.ai 开源权重 GLM-5.3-Flash;
- 做法:全参数 RL,训练全部 320B 语言参数(含 MTP 层),冻结视觉塔与 DSA 索引器;
- 数据构成:长程智能体任务约 52%(自建长程任务 30%、困难档 11%、长程编程技能 9%、公开 MiMo-TB 与 Tasksmith 各 1%),软件工程任务约 48%(MiMo-code 18%、自建 SWE 任务等);
- 意义:证明有针对性的后训练,能把开源权重模型变成强领域专用智能体,不必依赖数千卡集群。
三、百卡级训练为什么高效:五个关键环节
① 基础设施:GPU 不等最慢的尝试
- 训练与 rollout 分卡:一半 GPU 用 slime 框架 BF16 训练,另一半跑 SGLang 推理(权重与 KV cache 为 FP8),训练采样互不阻塞;
- 允许使用落后最多 6 个权重版本的陈旧 rollout;
- MTP 投机解码提速 1.38 倍;每次尝试在独立 Firecracker microVM 中隔离执行,基础设施故障损失的 rollout 组从 12% 降到 0.5%。
② 任务筛选:只在模型 "拿不准" 处训练
- 用基座对每个候选任务至少采样 4 次,只保留初始通过率 15%—85% 的任务;
- 总能解出或永远解不出的任务只给零信号,零信号 rollout 组占比从 48% 降至 10.2%;
- 摸底严格沿用训练配置(harness、推理强度、上下文、轮数、沙盒)。
③ 奖励:只为真正的解答给分
- 新任务入池前过九道验证关卡(沙盒 3 道 + 评分器 4 道等),先排除坏题目、脆弱测试和 "受保护文件" 陷阱;
- 终局奖励 [0,1],完全解出得 1.0,未完成按通过检查给部分分;
- 附加最高 0.2 的长度奖励,解出所用 token 降至原来的 0.84 倍,准确率不降。
④ Harness:训练评测同一套
- 沿用 Claude Code 约定(Bash/Read/Write/Edit 四工具、原生调用、推理历史、上下文压缩);
- 训练与评测共用同一 harness,自动测试保证代码和提示词一致;
- 上下文压缩、输出重定向到文件、后台异步执行合计降本约 1/3,高效工作流提示词再省 16%;
- 未做 RL 前,这套 harness 就让基座在 Terminal-Bench 上比官方 Claude Code 成绩高 4.4 点。
⑤ RL 目标:陈旧 FP8 样本也能学而不漂移
- GRPO 为核心,每任务 12 次尝试、每步一次更新;
- 截断重要性采样(TIS)、top-k 分数中心化、成功偏移、损失归一化下限;
- 不用 KL 惩罚和熵奖励,策略熵从约 0.46 缓降至 0.33,熵上升作为失稳预警;只有 1%—3% token 触及截断边界。
四、成本 — 性能位置
- 在四十多个模型与推理强度设置中,FireFlash 位于成本 — 性能 Pareto 前沿;
- 成本比它更低的 4 个点,得分均不超过 35.8%;
- 得分更高的模型,单次试验成本至少是它的两倍;满尺寸同门 GLM-5.3 最高强度每次 8.27 美元、得分仅 41.8%。
【常见问题】
问题 1:FireFlash 是什么,用什么底座、怎么训练出来的?
回答 1:FireFlash 是研究者发布的 300B 级终端与编程智能体,以开源权重 GLM-5.3-Flash 为起点做全参数强化学习,仅用 64 张 NVIDIA B300、不到 5 天完成训练,团队公开了完整训练配方,核心是任务筛选、奖励设计、统一 harness 和陈旧样本校正。
问题 2:FireFlash 成绩如何,真的比肩 Fable 5 和 GPT-6 Sol 吗?
回答 2:它在 Terminal-Bench 4.0 取得 46.2% Pass@1,与 Fable 5、GPT-6 Sol 处于同一水平;DeepSWE v1.1 超 Fable 5.1,SWE-Bench Pro Verified 超 Kimi K3 与 GPT-5.6 Sol,成绩为团队自有 harness 五次平均,与公开榜单口径对比。
问题 3:单任务成本低 30 倍是怎么算出来的,便宜在哪?
回答 3:按公开价格,FireFlash 单次试验成本 0.72 美元,最高推理强度下 Fable 5 为 22.02 美元,相差 30 倍以上;低成本来自短链解法奖励、上下文压缩、后台执行和无需重型推理强度,而非牺牲成绩。
问题 4:为什么只需要 64 张 B300 和不到 5 天,省 GPU 的关键是什么?
回答 4:关键是训练采样分卡互不阻塞、陈旧 rollout 不丢弃而校正、任务只选 15%—85% 通过率区间、九道关卡验证评分器,再靠 MTP 提速 1.38 倍和 microVM 隔离,把无效 rollout 和基础设施浪费压到最低。
问题 5:FireFlash 对普通团队做 Agent 训练有什么参考价值?
回答 5:它证明百卡级集群配合开放配方即可复现前沿级成本 — 性能,小团队不必堆数千卡;重点是把预算花在信号明确的任务、可信评分和训练评测一致的 harness 上,完整配方已在 Agent Economics 博客公开。
【参考资料】
- [2026-11-13](64 张 B300、不到 5 天,FireFlash 比肩 Fable 5 与 GPT-6Sol,单任务成本低 30 倍!)东方财富财富号
- [2026-11-12](64 张 B300、不到 5 天,FireFlash 比肩 Fable 5 与 GPT-6Sol,单任务成本低 30 倍!)新浪财经
- [2026-11-12](FireFlash: 300B terminal agent matches Fable 5 and GPT-6 Sol at 30x lower cost)PicX AI News
- [2026-11-06](FireFlash Releases Agentic Reinforcement Learning Model)Neural Wire
- [2026-11-03](GLM Agent passes Anthropic's Fable 5 with 30x lower task cost)FourWeekMBA
【免责声明】
本文基于研究团队公开博客与媒体报道整理,成绩为团队自有 harness、五次试验平均口径,成本按公开单价估算;模型能力与对比榜单随版本更新可能变化,复现效果受硬件与配置影响。本文不构成投资建议。
