百度文心 5.5 Flash Preview2800 亿参数、百万 Token 上下文,11 月 25 日开放权重开源

百度正式推出文心 5 5 Flash Preview,这是一款采用 MoE 稀疏架构的基座大模型,总参数规模 2800 亿,但推理的时候每次只激活 140