文心 5.5 Flash Base 开源发布,280B 总参数 14B 激活达成同尺寸 SOTA

百度正式开源文心 5 5 Flash Base 大模型,这款模型采用 280B 总参数、14B 激活参数的稀疏架构,在同规格模型里拿下 SOTA 性能。

百度开源文心 5.5 Flash Base,280B 总参数、14B 激活斩获同尺寸 SOTA

百度正式开源文心 5 5 Flash Base,采用稀疏激活架构,总参数规模达到 280B,推理时仅激活 14B 参数,在同档位稀疏大模型评测当中拿