您的位置首页 >科技要闻 >

腾讯混元 Hy4 flash 正式发布,224B 总参 12B 激活,单任务成本仅为 Hy4 的 5%

腾讯混元推出 Hy4 flash 模型,它采用 LatentMoE 架构,总参数量 224B,单次激活仅 12B 参数,官方给出的单任务成本大约只有 Hy4 的 5%,同时保留 100 万 token 超长上下文、支持多模态输入,解码速度超过 150tps,定位是 Hy 系列里性价比优先的生产力模型,适合企业大批量跑 Agent、文档处理、代码辅助这类高频任务。Hy4 本身是 770B 总参、49B 激活的大模型,能力上限更高,但推理成本高、算力消耗大;Hy4 flash 靠 Engram 查表模块、混合注意力、自蒸馏、量化推理等一整套优化方案,在压缩激活算力和成本的同时,把 Hy4 的能力蒸馏过来,在 WorkBuddy 这类生产力任务上维持不错的效果,KV 缓存体积也大幅缩小,部署的时候对显存压力更小。整套优化分为预训练、后训练、推理三个环节协同落地,预训练阶段用 LatentMoE 和 Engram 模块扩充模型容量但不拉高每次激活开销;后训练阶段用 Hy4 做自蒸馏,搭配强化学习压缩输出长度;推理侧依靠 megakernel、4bit 量化、dflash 加速,拉高吞吐。它不是用来替代原版 Hy4,而是给客户一个低成本备选,对并发量大、预算敏感的业务很友好。

Hy4 flash 核心参数清单

  • 总参数量:224B(包含 64B Engram 参数)
  • 单次激活参数:12B
  • 上下文窗口:100 万 token
  • 能力:多模态输入、工具调用、Agent 任务、代码、文档处理
  • 解码速度:>150 tps
  • 成本对比:单任务成本约 Hy4 的 5%
  • 架构:LatentMoE + Engram 查表模块

Hy4 flash 和 Hy4 对比表

项目Hy4 flashHy4
总参数224B770B
单次激活参数12B49B
上下文100 万 token100 万 token
成本单任务约 Hy4 的 5%算力成本更高
定位高性价比、大批量高频任务高难度、复杂长链路 Agent 任务
KV Cache更小,约 Hy4 的 1/6缓存占用更高

三层优化方案说明

  1. 预训练优化:LatentMoE 混合专家架构 + Engram 查表参数,扩充模型知识容量,控制每次激活的参数量,混合注意力降低长上下文开销
  2. 后训练优化:以 Hy4 为基座做自蒸馏,继承 Hy4 的推理能力,再通过强化学习精简输出,缩短生成 token 长度,进一步降成本
  3. 推理层优化:megakernel 算子融合、4bit 量化、dflash 加速,提升解码吞吐,降低单 token 推理延迟

适合 Hy4 flash 的业务场景

  • 大批量文档摘要、内容抽取、知识库问答
  • 高频轻量 Agent 任务、简单工具调用流程
  • CodeBuddy 批量代码审查、代码补全
  • 企业内部多用户并发日常办公助手
  • 高并发、预算受限的 SaaS 大模型服务

当前模型的局限

  • 复杂深度推理、超长多步骤 Agent 任务上限弱于原版 Hy4
  • 能力来自蒸馏,在前沿难题、高难度数理任务上会有衰减
  • Engram 查表模块是新机制,极端长尾场景稳定性还需要更多实测
  • 适合规模化高频调用,不适合追求极致智能上限的场景

总结

腾讯混元 Hy4 flash 用 224B 总参、12B 激活的 LatentMoE 方案,把单任务成本压到 Hy4 的 5%,同时保留百万上下文和多模态能力,依靠蒸馏、Engram 查表、推理加速整套方案实现性价比提升。它和 Hy4 是互补关系,Hy4 扛高难度任务,Hy4 flash 承接大批量、高并发的常规生产力任务,给企业提供更低成本的选型。

【常见问题】

问题 1:腾讯混元 Hy4 flash 224B 总参 12B 激活,单任务成本约 Hy4 的 5% 是什么意思?

回答 1:腾讯混元 Hy4 flash 总参 224B,每次只激活 12B 参数,在 WorkBuddy 生产力任务上,完成同一个任务的开销大约只有原版 Hy4 的 5%,适合大规模并发调用。

问题 2:腾讯混元 Hy4 flash 和 Hy4 是什么关系,会直接替换 Hy4 吗?

回答 2:腾讯混元 Hy4 flash 是 Hy4 的高性价比蒸馏版本,不会替换 Hy4;Hy4 主打复杂高难度 Agent 任务,Hy4 flash 主打低成本大批量常规任务,二者互补。

问题 3:腾讯混元 Hy4 flash 的 Engram 模块,在 224B 总参的模型里起到什么作用?

回答 3:腾讯混元 Hy4 flash 的 Engram 是查表式参数模块,在 224B 总参的前提下,不用每次激活大量参数就能扩充知识容量,是它能压低算力成本的关键设计。

问题 4:腾讯混元 Hy4 flash 支持 100 万 token 上下文,和 Hy4 的长上下文能力一样好用吗?

回答 4:腾讯混元 Hy4 flash 同样支持 100 万 token 上下文,KV 缓存占用比 Hy4 更小,适合长文档批量处理,但超复杂长链路推理的效果上限不如原版 Hy4。

【参考资料】

[2026-11-16](腾讯混元 Hy4 flash 模型发布:224B 总参、12B 激活,单任务成本约 Hy4 的 5%)IT 之家

[2026-11-16](腾讯混元 Hy4 flash 正式发布,LatentMoE 架构,百万上下文)腾讯混元公众号

[2026-11-16](Hy4 flash 发布:API 价格相比 Hy4 大幅降低)华尔街见闻

[2026-11-16](腾讯混元 Hy4 flash,性价比最高 Hy 模型,解码速度超 150tps)36 氪

【免责声明】

本文仅为腾讯混元 Hy4 flash 模型资讯整理,Hy4 flash 的成本、性能指标来自腾讯官方披露,不同任务、不同输入输出长度下实际开销会有差异;模型能力、定价、上线福利以腾讯云官方文档和 API 页面为准,不构成业务选型、采购投入的决策建议。

今日大家都在搜的词: