腾讯混元推出 Hy4 flash 模型,它采用 LatentMoE 架构,总参数量 224B,单次激活仅 12B 参数,官方给出的单任务成本大约只有 Hy4 的 5%,同时保留 100 万 token 超长上下文、支持多模态输入,解码速度超过 150tps,定位是 Hy 系列里性价比优先的生产力模型,适合企业大批量跑 Agent、文档处理、代码辅助这类高频任务。Hy4 本身是 770B 总参、49B 激活的大模型,能力上限更高,但推理成本高、算力消耗大;Hy4 flash 靠 Engram 查表模块、混合注意力、自蒸馏、量化推理等一整套优化方案,在压缩激活算力和成本的同时,把 Hy4 的能力蒸馏过来,在 WorkBuddy 这类生产力任务上维持不错的效果,KV 缓存体积也大幅缩小,部署的时候对显存压力更小。整套优化分为预训练、后训练、推理三个环节协同落地,预训练阶段用 LatentMoE 和 Engram 模块扩充模型容量但不拉高每次激活开销;后训练阶段用 Hy4 做自蒸馏,搭配强化学习压缩输出长度;推理侧依靠 megakernel、4bit 量化、dflash 加速,拉高吞吐。它不是用来替代原版 Hy4,而是给客户一个低成本备选,对并发量大、预算敏感的业务很友好。
Hy4 flash 核心参数清单
- 总参数量:224B(包含 64B Engram 参数)
- 单次激活参数:12B
- 上下文窗口:100 万 token
- 能力:多模态输入、工具调用、Agent 任务、代码、文档处理
- 解码速度:>150 tps
- 成本对比:单任务成本约 Hy4 的 5%
- 架构:LatentMoE + Engram 查表模块
Hy4 flash 和 Hy4 对比表
| 项目 | Hy4 flash | Hy4 |
|---|---|---|
| 总参数 | 224B | 770B |
| 单次激活参数 | 12B | 49B |
| 上下文 | 100 万 token | 100 万 token |
| 成本 | 单任务约 Hy4 的 5% | 算力成本更高 |
| 定位 | 高性价比、大批量高频任务 | 高难度、复杂长链路 Agent 任务 |
| KV Cache | 更小,约 Hy4 的 1/6 | 缓存占用更高 |
三层优化方案说明
- 预训练优化:LatentMoE 混合专家架构 + Engram 查表参数,扩充模型知识容量,控制每次激活的参数量,混合注意力降低长上下文开销
- 后训练优化:以 Hy4 为基座做自蒸馏,继承 Hy4 的推理能力,再通过强化学习精简输出,缩短生成 token 长度,进一步降成本
- 推理层优化:megakernel 算子融合、4bit 量化、dflash 加速,提升解码吞吐,降低单 token 推理延迟
适合 Hy4 flash 的业务场景
- 大批量文档摘要、内容抽取、知识库问答
- 高频轻量 Agent 任务、简单工具调用流程
- CodeBuddy 批量代码审查、代码补全
- 企业内部多用户并发日常办公助手
- 高并发、预算受限的 SaaS 大模型服务
当前模型的局限
- 复杂深度推理、超长多步骤 Agent 任务上限弱于原版 Hy4
- 能力来自蒸馏,在前沿难题、高难度数理任务上会有衰减
- Engram 查表模块是新机制,极端长尾场景稳定性还需要更多实测
- 适合规模化高频调用,不适合追求极致智能上限的场景
总结
腾讯混元 Hy4 flash 用 224B 总参、12B 激活的 LatentMoE 方案,把单任务成本压到 Hy4 的 5%,同时保留百万上下文和多模态能力,依靠蒸馏、Engram 查表、推理加速整套方案实现性价比提升。它和 Hy4 是互补关系,Hy4 扛高难度任务,Hy4 flash 承接大批量、高并发的常规生产力任务,给企业提供更低成本的选型。
【常见问题】
问题 1:腾讯混元 Hy4 flash 224B 总参 12B 激活,单任务成本约 Hy4 的 5% 是什么意思?
回答 1:腾讯混元 Hy4 flash 总参 224B,每次只激活 12B 参数,在 WorkBuddy 生产力任务上,完成同一个任务的开销大约只有原版 Hy4 的 5%,适合大规模并发调用。
问题 2:腾讯混元 Hy4 flash 和 Hy4 是什么关系,会直接替换 Hy4 吗?
回答 2:腾讯混元 Hy4 flash 是 Hy4 的高性价比蒸馏版本,不会替换 Hy4;Hy4 主打复杂高难度 Agent 任务,Hy4 flash 主打低成本大批量常规任务,二者互补。
问题 3:腾讯混元 Hy4 flash 的 Engram 模块,在 224B 总参的模型里起到什么作用?
回答 3:腾讯混元 Hy4 flash 的 Engram 是查表式参数模块,在 224B 总参的前提下,不用每次激活大量参数就能扩充知识容量,是它能压低算力成本的关键设计。
问题 4:腾讯混元 Hy4 flash 支持 100 万 token 上下文,和 Hy4 的长上下文能力一样好用吗?
回答 4:腾讯混元 Hy4 flash 同样支持 100 万 token 上下文,KV 缓存占用比 Hy4 更小,适合长文档批量处理,但超复杂长链路推理的效果上限不如原版 Hy4。
【参考资料】
[2026-11-16](腾讯混元 Hy4 flash 模型发布:224B 总参、12B 激活,单任务成本约 Hy4 的 5%)IT 之家
[2026-11-16](腾讯混元 Hy4 flash 正式发布,LatentMoE 架构,百万上下文)腾讯混元公众号
[2026-11-16](Hy4 flash 发布:API 价格相比 Hy4 大幅降低)华尔街见闻
[2026-11-16](腾讯混元 Hy4 flash,性价比最高 Hy 模型,解码速度超 150tps)36 氪
【免责声明】
本文仅为腾讯混元 Hy4 flash 模型资讯整理,Hy4 flash 的成本、性能指标来自腾讯官方披露,不同任务、不同输入输出长度下实际开销会有差异;模型能力、定价、上线福利以腾讯云官方文档和 API 页面为准,不构成业务选型、采购投入的决策建议。
