面壁智能推出 MiniCPM-V 4.7(35B-A3B)混合专家多模态模型,成功让总参数量 35B 的大模型仅占用约 3GB 手机运行内存完成本地推理,行业认为这代表端侧 AI 正式逼近 “ChatGPT 时刻”,可以在断网状态下在手机本地完成图文理解、代码、复杂逻辑推理,不再强制依赖云端服务器。以往稠密架构的大模型想要跑在手机上,8B 已经是主流上限,更大参数的模型要么只能在电脑、云端运行,要么放到手机里推理速度极慢,没有实用价值。而这款 35B-A3B 采用 MoE 混合专家架构,搭配自研 LES 前瞻专家调度技术,把大部分模型权重放在手机闪存,计算时按需加载专家模块,运行阶段仅激活 3B 参数,大幅降低运行内存占用,经过持续优化,在 iPhone 旗舰机型上最高可达 30token/s 以上的输出速度,模型能力几乎无损,同时支持 iOS、安卓、鸿蒙多系统,覆盖多款主流芯片平台,并且对外开源适配代码,方便手机厂商、开发者直接接入。
一、MiniCPM-V 4.7 模型版本清单
- 35B-A3B(本次重点版本)
- 总参数:350 亿,MoE 混合专家架构,每次推理仅激活 30 亿参数
- 内存占用:约 3GB 运行内存
- 能力:多模态图文理解、代码编写、复杂逻辑、OCR 文档解析,断网本地运行
- 实测速度:iPhone18 Pro Max 最高 30token/s 以上
- 1B 轻量化版本
- 定位:轻量化端侧模型,内存占用更低
- 适用设备:中低端手机、平板、嵌入式硬件,主打基础 AI 交互
二、核心底层技术原理
- MoE 混合专家架构:模型内置大量专家模块,回答问题时只选取少量专家参与运算,不用加载全部参数,减少内存压力
- LES 前瞻专家调度技术:提前预判需要用到的专家权重,提前从闪存预加载,重叠加载与计算过程,提升推理速度
- 细粒度逐层量化:压缩模型权重体积,在几乎不损失模型能力的前提下,降低内存与带宽消耗
- DSpark 推测性采样:加速文字生成,进一步提升 token 输出效率
三、不同设备实测数据对比
| 设备 | 运行内存占用 | 推理速度 | 备注 |
|---|---|---|---|
| iPhone 18 Pro Max | 3GB | 最高 30 token/s | 优化后版本 |
| iPhone 17 Pro Max | 3GB | 13+ token/s | 基础版本测试 |
| iPad Pro M4 | 3GB | 15+ token/s | 平板设备 |
四、端侧 35B 模型落地价值解读
- 隐私提升:图片、文档、提问数据全部在手机本地运算,不需要上传云端服务器,保护个人隐私
- 无网可用:隧道、无信号环境依旧能够正常使用 AI 问答、识图、文档分析功能
- 降低成本:不需要消耗云端 API 流量,长时间使用没有额外算力费用
- 行业意义:证明手机硬件可以承载接近早年云端旗舰模型能力,被业内称作端侧 AI 的 “撞线前夜”,逼近端侧 ChatGPT 时刻
五、现存限制
- 虽然总参数量 35B,但每次激活仅 3B,和完整 35B 稠密模型能力存在一定差距
- 高 token 长文本场景下,手机功耗提升,发热会增加
- 需要设备闪存空间存放完整模型包,对手机存储容量有一定要求
【常见问题】
问题 1:端侧逼近 ChatGPT 时刻,面壁智能 35B 模型跑在手机内存,这个 35B 是什么意思?
回答 1:端侧逼近 ChatGPT 时刻,面壁智能这款跑在手机内存的 35B 模型指 MiniCPM-V4.7 的 35B-A3B,总参数 350 亿,属于 MoE 混合专家模型,推理的时候只激活 3B 参数,仅占用 3GB 手机运行内存,实现手机本地断网 AI 运算。
问题 2:面壁智能 35B 模型在手机内存运行,需要联网才能使用吗,支持哪些系统?
回答 2:面壁智能 35B 模型可以在手机内存本地运行,支持完全断网使用,不需要上传数据到云端;模型支持 iOS、安卓、鸿蒙系统,适配苹果、瑞芯微、英伟达、英特尔等主流芯片平台。
问题 3:面壁智能实现 35B 模型跑手机内存,为什么被认为端侧逼近 ChatGPT 时刻?
回答 3:面壁智能实现 35B 模型跑手机内存,过去大参数强能力模型都只能在云端服务器运行,现在 35B 级别的多模态模型可以在手机本地流畅推理,断网也能完成复杂图文、代码任务,代表本地端侧 AI 能力大幅跨越,行业判断端侧正式逼近 ChatGPT 时刻。
【参考资料】
[2026-11-11](35B 模型跑进手机,面壁智能押注端侧 AI 下一阶段)每日经济新闻
[2026-11-09](端侧逼近 “ChatGPT 时刻”:面壁智能让 35B 模型跑在手机内存里)太平洋科技
[2026-10-13](面壁智能发布 MiniCPM-V4.7,35B-A3B 开源端侧多模态模型)IT 之家
[2026-10-13](仅约 3GB 内存,面壁智能新一代端侧多模态大模型发布)新京报
【免责声明】
本文资讯来自面壁智能技术发布会与多家科技媒体公开报道,MiniCPM-V 4.7 35B-A3B 模型为技术演示开源模型,手机上实际推理速度、功耗、发热表现会受手机芯片、内存版本、系统版本影响;“端侧逼近 ChatGPT 时刻” 属于行业观点,不代表该模型能力等同于 ChatGPT。本文仅作为行业技术资讯参考,不构成项目投资、产品开发建议。
