在 AI・具身会客厅的专访里,熵旋芯智创始人雷坤提出一个核心判断,现在 AI 行业已经告别单纯拼峰值算力的阶段,推理正式进入长跑比拼成本、能效的周期,国内日均 Token 消耗规模已经逼近 500 万亿,行业瓶颈不再是算力不够,而是反复搬运模型权重带来的高能耗、高 Token 成本,熵旋芯智选择 MRAM 存内计算路线,推出 MITA 架构与 MPU 处理单元,不靠替代 GPU,而是异构协同,专门承接 MoE 模型 FFN 专家前馈这类权重密集运算,把权重留在存储阵列里面直接运算,减少数据来回搬运,目标就是压低每一个 Token 的推理成本,这条路线对实时交互、Agent 长任务这类低批量、低延迟场景适配性更强。传统 GPU 架构里,存储和计算单元是分开的,每次做推理都要频繁把权重从存储读取到计算核心,大量功耗和时间浪费在数据搬运上,也就是大家常说的存储墙、功耗墙,而 MRAM 属于非易失存储,密度高、读写速度快,刚好适合做存内计算的载体,不过它不是万能方案,跨芯片通信、阵列一致性、软件调度、量产良率都是要持续攻克的难点。
一、核心技术方案:MITA 架构 + MPU 单元
基础概念对照表
| 项目 | 说明 |
|---|---|
| MITA | MRAM In-Memory Tensor Architecture,熵旋芯智自研 MRAM 存内计算架构 |
| MPU | MRAM-based Processing Unit,基于 MRAM 的存内计算处理单元 |
| 核心介质 | MRAM 磁性随机存取存储器,非易失、高密度、CMOS 工艺兼容 |
| 主攻负载 | MoE 大模型专家前馈网络 FFN,权重密集型线性运算 |
| 定位 | 异构加速模块,和 GPU 搭配协同推理,不是替换 GPU |
工作原理清单
- 提前把量化后的模型权重映射、常驻在 MRAM 阵列里,不需要反复调出
- 推理时只送入输入激活信号,直接在 MRAM 阵列内部完成矩阵乘加运算
- 只输出计算结果,权重全程不往外搬运,大幅削减访存开销
- 输出结果交给 GPU 或者其他数字单元,完成整条推理链路
二、雷坤访谈里的行业判断与技术目标
- AI 推理进入长跑期:拼的不是单次峰值算力,是长期持续服务的单位 Token 成本、整机功耗、稳定吞吐
- 对比 SRAM 方案:MRAM 存内计算的能效有望比 SRAM 方案低接近 10 倍,中长期目标是把 Token 推理成本降低约 90%
- 优先受益场景:实时对话、Agent 智能体、低并发交互任务,这类场景很难靠大批次并发摊薄读取成本
- 真正壁垒不是 MRAM 器件本身,而是软硬协同、算子拆分、权重调度、供应链量产良率,单纯器件指标好看不等于系统能省钱
三、现存挑战
- MRAM 阵列一致性、读出精度控制难度高,影响模型推理精度
- MPU 和 GPU 异构通信会带来额外延迟,MoE 专家分配太散会拉高通信成本
- 存算一体软件栈不成熟,模型适配、量化映射、调度工具链需要持续打磨
- 晶圆代工良率、规模化成本还需要时间验证,短期还处在流片验证阶段
四、落地推进节奏
- 团队源自中科院半导体所,核心成员来自 AMD、高通、格芯等企业
- 已经完成两轮融资,第三轮融资接近收尾,完成阵列级流片
- 计划 2027 年初完成首批芯片交付,优先在边缘场景小规模商业化落地
- 后续逐步向云端推理集群拓展,做成可插拔的异构加速模块
总结
按照雷坤的观点,AI 推理的下半场核心是降 Token 成本,MRAM 存内计算是一条绕开传统存储墙的差异化路线,熵旋芯智的 MPU 定位是 GPU 的补充加速卡,专门啃 MoE 专家网络这类权重密集任务;但存内计算不是捷径,最终能不能把 Token 成本打下来,要看后续软硬件协同、良率和规模化落地的实际表现。
【常见问题】
问题 1:熵旋芯智雷坤提到的 MRAM 存内计算,是用来完全替代 GPU 做大模型推理吗?
回答 1:熵旋芯智雷坤在访谈里明确,MRAM 存内计算打造的 MPU 单元不会替代 GPU,而是作为异构加速模块,专门承接 MoE 模型 FFN 权重密集运算,和 GPU 配合完成整条 AI 推理链路。
问题 2:AI 推理进入长跑期,熵旋芯智用 MRAM 存内计算想要解决什么核心问题?
回答 2:AI 推理进入长跑期之后,熵旋芯智依靠 MRAM 存内计算,主要解决传统架构反复搬运权重带来的高功耗、高开销问题,目标持续压低 AI 推理的单位 Token 成本。
问题 3:熵旋芯智 MITA 架构,在哪些 AI 推理场景下 MRAM 存内计算优势最明显?
回答 3:熵旋芯智的 MRAM 存内计算,在实时交互、Agent 长周期任务这类低批量、对延迟敏感的推理场景优势最突出,这类场景很难靠大并发摊薄权重读取开销。
问题 4:熵旋芯智雷坤认为 MRAM 存内计算最大的技术门槛,是 MRAM 存储器件本身吗?
回答 4:熵旋芯智雷坤认为 MRAM 器件工艺很多厂商都能拿到,真正门槛是软硬协同设计、MoE 专家调度方案、软件工具链以及供应链量产良率,不是单纯存储介质。
【参考资料】
[2026-11-17](AI・具身会客厅|对话熵旋芯智雷坤:AI 推理进入长跑期,MRAM 存内计算追逐更低 Token 成本)财经网科技
[2026-10-29](英伟达花 200 亿美元买的东西,一家中国芯片公司想换个做法)36 氪
[2026-10-26](AI 推理进入 Token 成本时代,熵旋芯智押注 MRAM 存内计算)36 氪
[2026-09-12](熵旋芯智雷坤:MRAM 存算一体芯片可使 AI 推理 Token 成本降低约 10 倍)财联社
【免责声明】
本文仅为专访资讯整理,熵旋芯智 MRAM 存内计算、MITA 架构、MPU 芯片的能效、Token 降本幅度、交付时间、商业化进展,均以熵旋芯智官方披露、实测报告以及代工厂验证结果为准;存内计算技术仍处于早期验证阶段,相关数据为技术目标,不代表量产落地效果,不构成芯片采购、产业投资建议。
