淘宝 MNN 团队开源 0.3B 端侧小模型,iPhone18 Pro 离线推理可达 350 token/s

淘宝 MNN 团队放出了 0 3B 参数手机端大模型,在 iPhone 18 Pro 设备上离线运行能够跑到 350 token s,这个成绩靠 MNN 端侧推

淘宝 MNN 开源 0.3B 端侧小模型,iPhone 18 Pro 离线推理可达 350 token/s

淘宝 MNN 团队放出全新开源 0 3B 参数手机大模型,依托 MNN 端侧推理框架做深度优化,在 iPhone 18 Pro 上可以完全离线本地运行