淘宝 MNN 开源 0.3B 手机端大模型,离线推理速度可达 350token/s

淘宝团队基于 MNN 框架开源了一款 0 3B 参数的手机端小模型,在离线运行环境下推理速度最高能跑到 350token s,这个模型专门针对移动