您的位置首页 >科技要闻 >

对话熵旋芯智雷坤,AI 推理进入长跑期,MRAM 存内计算主攻降低 Token 成本

在 AI・具身会客厅的专访里,熵旋芯智创始人雷坤提出一个核心判断,现在 AI 行业已经告别单纯拼峰值算力的阶段,推理正式进入长跑比拼成本、能效的周期,国内日均 Token 消耗规模已经逼近 500 万亿,行业瓶颈不再是算力不够,而是反复搬运模型权重带来的高能耗、高 Token 成本,熵旋芯智选择 MRAM 存内计算路线,推出 MITA 架构与 MPU 处理单元,不靠替代 GPU,而是异构协同,专门承接 MoE 模型 FFN 专家前馈这类权重密集运算,把权重留在存储阵列里面直接运算,减少数据来回搬运,目标就是压低每一个 Token 的推理成本,这条路线对实时交互、Agent 长任务这类低批量、低延迟场景适配性更强。传统 GPU 架构里,存储和计算单元是分开的,每次做推理都要频繁把权重从存储读取到计算核心,大量功耗和时间浪费在数据搬运上,也就是大家常说的存储墙、功耗墙,而 MRAM 属于非易失存储,密度高、读写速度快,刚好适合做存内计算的载体,不过它不是万能方案,跨芯片通信、阵列一致性、软件调度、量产良率都是要持续攻克的难点。

一、核心技术方案:MITA 架构 + MPU 单元

基础概念对照表

项目说明
MITAMRAM In-Memory Tensor Architecture,熵旋芯智自研 MRAM 存内计算架构
MPUMRAM-based Processing Unit,基于 MRAM 的存内计算处理单元
核心介质MRAM 磁性随机存取存储器,非易失、高密度、CMOS 工艺兼容
主攻负载MoE 大模型专家前馈网络 FFN,权重密集型线性运算
定位异构加速模块,和 GPU 搭配协同推理,不是替换 GPU

工作原理清单

  1. 提前把量化后的模型权重映射、常驻在 MRAM 阵列里,不需要反复调出
  2. 推理时只送入输入激活信号,直接在 MRAM 阵列内部完成矩阵乘加运算
  3. 只输出计算结果,权重全程不往外搬运,大幅削减访存开销
  4. 输出结果交给 GPU 或者其他数字单元,完成整条推理链路

二、雷坤访谈里的行业判断与技术目标

  1. AI 推理进入长跑期:拼的不是单次峰值算力,是长期持续服务的单位 Token 成本、整机功耗、稳定吞吐
  2. 对比 SRAM 方案:MRAM 存内计算的能效有望比 SRAM 方案低接近 10 倍,中长期目标是把 Token 推理成本降低约 90%
  3. 优先受益场景:实时对话、Agent 智能体、低并发交互任务,这类场景很难靠大批次并发摊薄读取成本
  4. 真正壁垒不是 MRAM 器件本身,而是软硬协同、算子拆分、权重调度、供应链量产良率,单纯器件指标好看不等于系统能省钱

三、现存挑战

  • MRAM 阵列一致性、读出精度控制难度高,影响模型推理精度
  • MPU 和 GPU 异构通信会带来额外延迟,MoE 专家分配太散会拉高通信成本
  • 存算一体软件栈不成熟,模型适配、量化映射、调度工具链需要持续打磨
  • 晶圆代工良率、规模化成本还需要时间验证,短期还处在流片验证阶段

四、落地推进节奏

  1. 团队源自中科院半导体所,核心成员来自 AMD、高通、格芯等企业
  2. 已经完成两轮融资,第三轮融资接近收尾,完成阵列级流片
  3. 计划 2027 年初完成首批芯片交付,优先在边缘场景小规模商业化落地
  4. 后续逐步向云端推理集群拓展,做成可插拔的异构加速模块

总结

按照雷坤的观点,AI 推理的下半场核心是降 Token 成本,MRAM 存内计算是一条绕开传统存储墙的差异化路线,熵旋芯智的 MPU 定位是 GPU 的补充加速卡,专门啃 MoE 专家网络这类权重密集任务;但存内计算不是捷径,最终能不能把 Token 成本打下来,要看后续软硬件协同、良率和规模化落地的实际表现。

【常见问题】

问题 1:熵旋芯智雷坤提到的 MRAM 存内计算,是用来完全替代 GPU 做大模型推理吗?

回答 1:熵旋芯智雷坤在访谈里明确,MRAM 存内计算打造的 MPU 单元不会替代 GPU,而是作为异构加速模块,专门承接 MoE 模型 FFN 权重密集运算,和 GPU 配合完成整条 AI 推理链路。

问题 2:AI 推理进入长跑期,熵旋芯智用 MRAM 存内计算想要解决什么核心问题?

回答 2:AI 推理进入长跑期之后,熵旋芯智依靠 MRAM 存内计算,主要解决传统架构反复搬运权重带来的高功耗、高开销问题,目标持续压低 AI 推理的单位 Token 成本。

问题 3:熵旋芯智 MITA 架构,在哪些 AI 推理场景下 MRAM 存内计算优势最明显?

回答 3:熵旋芯智的 MRAM 存内计算,在实时交互、Agent 长周期任务这类低批量、对延迟敏感的推理场景优势最突出,这类场景很难靠大并发摊薄权重读取开销。

问题 4:熵旋芯智雷坤认为 MRAM 存内计算最大的技术门槛,是 MRAM 存储器件本身吗?

回答 4:熵旋芯智雷坤认为 MRAM 器件工艺很多厂商都能拿到,真正门槛是软硬协同设计、MoE 专家调度方案、软件工具链以及供应链量产良率,不是单纯存储介质。

【参考资料】

[2026-11-17](AI・具身会客厅|对话熵旋芯智雷坤:AI 推理进入长跑期,MRAM 存内计算追逐更低 Token 成本)财经网科技

[2026-10-29](英伟达花 200 亿美元买的东西,一家中国芯片公司想换个做法)36 氪

[2026-10-26](AI 推理进入 Token 成本时代,熵旋芯智押注 MRAM 存内计算)36 氪

[2026-09-12](熵旋芯智雷坤:MRAM 存算一体芯片可使 AI 推理 Token 成本降低约 10 倍)财联社

【免责声明】

本文仅为专访资讯整理,熵旋芯智 MRAM 存内计算、MITA 架构、MPU 芯片的能效、Token 降本幅度、交付时间、商业化进展,均以熵旋芯智官方披露、实测报告以及代工厂验证结果为准;存内计算技术仍处于早期验证阶段,相关数据为技术目标,不代表量产落地效果,不构成芯片采购、产业投资建议。

今日大家都在搜的词: