腾讯混元 Hy4 flash 正式发布,224B 总参 12B 激活,单任务成本仅为 Hy4 的 5%

腾讯混元推出 Hy4 flash 模型,它采用 LatentMoE 架构,总参数量 224B,单次激活仅 12B 参数,官方给出的单任务成本大约只有 Hy4