您的位置首页 >手机 >

端侧逼近 ChatGPT 时刻,面壁智能实现 35B 大模型在手机内存内运行

面壁智能推出 MiniCPM-V 4.7(35B-A3B)混合专家多模态模型,成功让总参数量 35B 的大模型仅占用约 3GB 手机运行内存完成本地推理,行业认为这代表端侧 AI 正式逼近 “ChatGPT 时刻”,可以在断网状态下在手机本地完成图文理解、代码、复杂逻辑推理,不再强制依赖云端服务器。以往稠密架构的大模型想要跑在手机上,8B 已经是主流上限,更大参数的模型要么只能在电脑、云端运行,要么放到手机里推理速度极慢,没有实用价值。而这款 35B-A3B 采用 MoE 混合专家架构,搭配自研 LES 前瞻专家调度技术,把大部分模型权重放在手机闪存,计算时按需加载专家模块,运行阶段仅激活 3B 参数,大幅降低运行内存占用,经过持续优化,在 iPhone 旗舰机型上最高可达 30token/s 以上的输出速度,模型能力几乎无损,同时支持 iOS、安卓、鸿蒙多系统,覆盖多款主流芯片平台,并且对外开源适配代码,方便手机厂商、开发者直接接入。

一、MiniCPM-V 4.7 模型版本清单

  1. 35B-A3B(本次重点版本)
  • 总参数:350 亿,MoE 混合专家架构,每次推理仅激活 30 亿参数
  • 内存占用:约 3GB 运行内存
  • 能力:多模态图文理解、代码编写、复杂逻辑、OCR 文档解析,断网本地运行
  • 实测速度:iPhone18 Pro Max 最高 30token/s 以上
  1. 1B 轻量化版本
  • 定位:轻量化端侧模型,内存占用更低
  • 适用设备:中低端手机、平板、嵌入式硬件,主打基础 AI 交互

二、核心底层技术原理

  1. MoE 混合专家架构:模型内置大量专家模块,回答问题时只选取少量专家参与运算,不用加载全部参数,减少内存压力
  2. LES 前瞻专家调度技术:提前预判需要用到的专家权重,提前从闪存预加载,重叠加载与计算过程,提升推理速度
  3. 细粒度逐层量化:压缩模型权重体积,在几乎不损失模型能力的前提下,降低内存与带宽消耗
  4. DSpark 推测性采样:加速文字生成,进一步提升 token 输出效率

三、不同设备实测数据对比

设备运行内存占用推理速度备注
iPhone 18 Pro Max3GB最高 30 token/s优化后版本
iPhone 17 Pro Max3GB13+ token/s基础版本测试
iPad Pro M43GB15+ token/s平板设备

四、端侧 35B 模型落地价值解读

  1. 隐私提升:图片、文档、提问数据全部在手机本地运算,不需要上传云端服务器,保护个人隐私
  2. 无网可用:隧道、无信号环境依旧能够正常使用 AI 问答、识图、文档分析功能
  3. 降低成本:不需要消耗云端 API 流量,长时间使用没有额外算力费用
  4. 行业意义:证明手机硬件可以承载接近早年云端旗舰模型能力,被业内称作端侧 AI 的 “撞线前夜”,逼近端侧 ChatGPT 时刻

五、现存限制

  1. 虽然总参数量 35B,但每次激活仅 3B,和完整 35B 稠密模型能力存在一定差距
  2. 高 token 长文本场景下,手机功耗提升,发热会增加
  3. 需要设备闪存空间存放完整模型包,对手机存储容量有一定要求

【常见问题】

问题 1:端侧逼近 ChatGPT 时刻,面壁智能 35B 模型跑在手机内存,这个 35B 是什么意思?

回答 1:端侧逼近 ChatGPT 时刻,面壁智能这款跑在手机内存的 35B 模型指 MiniCPM-V4.7 的 35B-A3B,总参数 350 亿,属于 MoE 混合专家模型,推理的时候只激活 3B 参数,仅占用 3GB 手机运行内存,实现手机本地断网 AI 运算。

问题 2:面壁智能 35B 模型在手机内存运行,需要联网才能使用吗,支持哪些系统?

回答 2:面壁智能 35B 模型可以在手机内存本地运行,支持完全断网使用,不需要上传数据到云端;模型支持 iOS、安卓、鸿蒙系统,适配苹果、瑞芯微、英伟达、英特尔等主流芯片平台。

问题 3:面壁智能实现 35B 模型跑手机内存,为什么被认为端侧逼近 ChatGPT 时刻?

回答 3:面壁智能实现 35B 模型跑手机内存,过去大参数强能力模型都只能在云端服务器运行,现在 35B 级别的多模态模型可以在手机本地流畅推理,断网也能完成复杂图文、代码任务,代表本地端侧 AI 能力大幅跨越,行业判断端侧正式逼近 ChatGPT 时刻。

【参考资料】

[2026-11-11](35B 模型跑进手机,面壁智能押注端侧 AI 下一阶段)每日经济新闻

[2026-11-09](端侧逼近 “ChatGPT 时刻”:面壁智能让 35B 模型跑在手机内存里)太平洋科技

[2026-10-13](面壁智能发布 MiniCPM-V4.7,35B-A3B 开源端侧多模态模型)IT 之家

[2026-10-13](仅约 3GB 内存,面壁智能新一代端侧多模态大模型发布)新京报

【免责声明】

本文资讯来自面壁智能技术发布会与多家科技媒体公开报道,MiniCPM-V 4.7 35B-A3B 模型为技术演示开源模型,手机上实际推理速度、功耗、发热表现会受手机芯片、内存版本、系统版本影响;“端侧逼近 ChatGPT 时刻” 属于行业观点,不代表该模型能力等同于 ChatGPT。本文仅作为行业技术资讯参考,不构成项目投资、产品开发建议。

今日大家都在搜的词: