您的位置首页 >科技要闻 >

Penguin 推出 MemoryAI 光子 HBM 级内存设备,用光互联破解 AI 显存内存墙

Penguin Solutions 在 SC26 超算大会正式发布 MemoryAI Photonic Appliance 光子 HBM 级内存设备,也是业内首款基于硅光子方案的 HBM 级内存整机,和 Marvell 联合打造光子互联底座,依托硅光子链路搭配 CXL3.0 协议,可以在米级距离上,让 GPU、CPU 共享达到 HBM 级别带宽的统一内存池,它不是替换 GPU 封装内自带的 HBM,而是作为外置内存扩容设备,专门解决 Agent 智能体 AI、超长上下文大模型推理时,GPU 板载 HBM 容量不够、KV 缓存放不下的内存墙难题,整机最高支持 16TB DDR5 加上最高 576GB HBM3E,总带宽 57.6Tbps,上层应用不用改代码,就能透明调用这片远端共享内存。

一、这款光子 HBM 级设备核心参数清单

  • 产品名称:MemoryAI Photonic Appliance
  • 底层技术:Marvell Photonic Fabric 硅光子互联,CXL 3.0
  • 内存规格:单台设备最高 16TB DDR5、最高 576GB HBM3E
  • 整机总带宽:57.6 Tbps
  • 支持接入:最多 16 台服务器 / GPU 节点共享同一个内存池
  • 展示场合:芝加哥 SC26 2026 大会
  • 交付计划:定向客户样片采样安排在 2027 年下半年
  • 定位:解聚合共享内存,辅助 GPU,不替代原生板载 HBM

二、选择硅光子做 HBM 级共享内存的原因

  1. 传统板载 HBM 必须紧贴 GPU 封装,距离只有毫米级,容量受封装面积、芯片数量限制,扩容成本极高,HBM 供货也持续紧张。
  2. 铜线 CXL 互联距离短、带宽随距离衰减、功耗高,很难做多机架大范围内存池。硅光子光纤传输,长距离下带宽衰减小、单位比特功耗更低。
  3. Agent AI、长上下文大推理对 KV 缓存需求暴涨,单卡显存装不下全部上下文,需要把大容量内存池统一调度给多卡集群。
  4. 透明内存访问机制,软件侧无感知,不需要重写模型、推理框架,降低数据中心改造门槛。
  5. 资源池化可以动态分配内存,空闲 GPU 不用自带大量 HBM,提升硬件整体利用率,摊薄算力成本。

三、光子 HBM 级内存设备落地部署步骤

第一步,服务器集群部署 Marvell 光子网卡、光交换模块,搭建光子 Fabric 光纤链路。

第二步,上架 MemoryAI 光子内存整机,配置 HBM3E+DDR5 混合内存介质,初始化内存池管理软件。

第三步,通过 CXL3.0 协议和光子链路,把远端内存池注册给集群内 GPU、CPU,开启透明内存寻址。

第四步,配置内存分层策略,高频热数据放在池内 HBM,大容量 KV 缓存放在 DDR5,自动冷热迁移。

第五步,上线大模型、Agent 推理业务,监控带宽、延迟、命中率,优化内存调度策略。

第六步,逐步扩容整机数量,形成 PB 级的跨机架共享内存池。

四、三种内存方案对比表

方案传输距离带宽等级容量上限软件改造定位
GPU 板载原生 HBM毫米级HBM 级单卡有限无需改造GPU 主高速显存
CXL 铜线内存扩展数十厘米低于 HBM单机有限少量适配单服务器内存扩容
Penguin 光子 HBM 级设备米级、跨机架HBM 级多机池化,TB/PB 级几乎不用改代码集群共享大容量高速内存池

五、这套光子内存方案现存挑战

  • 光模块、硅光子硬件成本偏高,短期整机采购成本高于普通 CXL 内存柜。
  • 虽然带宽达到 HBM 级别,但延迟依然高于封装内原生 HBM,不适合对极致低延迟敏感的训练任务,更适配推理。
  • 生态还比较新,只有定向客户采样,大规模量产、成熟运维工具链还需要时间打磨。
  • 光链路布线、光路调试比铜线复杂,数据中心布线和运维门槛上升。

整体来看,Penguin 这款光子 HBM 级设备代表内存技术一条新路线:把 HBM 级带宽从 GPU 封装里面拉出来,用光互联做成跨服务器共享内存池。它瞄准的不是训练,而是当下爆发的 Agent 智能体、超长上下文推理,给行业提供了绕开单卡 HBM 容量瓶颈的新解法,也推动解聚合内存架构从概念走向可交付硬件。

【常见问题】

问题 1:Penguin 推出光子 HBM 级内存设备,这款产品叫什么,核心作用是什么?

回答 1:Penguin 推出的光子 HBM 级内存设备是 MemoryAI Photonic Appliance,依靠硅光子和 CXL3.0 搭建共享内存池,在米级距离提供 HBM 级带宽,用来扩容显存、承载大模型 KV 缓存,解决 Agent AI 推理的内存墙问题。

问题 2:Penguin 光子 HBM 级内存设备,能不能直接替代 GPU 自带的板载 HBM?

回答 2:不能,Penguin 光子 HBM 级内存设备是补充方案,不是替代方案,原生板载 HBM 延迟更低,放在 GPU 封装内部做核心高速显存;光子设备做远端大容量共享内存池,承接 KV 缓存、长上下文数据。

问题 3:Penguin 光子 HBM 级内存设备什么时候可以拿到样品,在哪里对外展示?

回答 3:Penguin 光子 HBM 级内存设备在 SC26 芝加哥超算大会首发展示,面向选定客户的样片采样计划安排在 2027 年下半年,暂时还没有公开量产时间表。

问题 4:Penguin 光子 HBM 级内存设备,和普通 CXL 内存扩展柜最大差别是什么?

回答 4:普通 CXL 铜线内存柜距离短、带宽上限达不到 HBM 级别;Penguin 光子 HBM 级内存设备使用硅光子光纤互联,可以跨机架传输,维持 HBM 级带宽,支持十几台服务器共享同一个大内存池。

【参考资料】

[2026-11-17](Penguin 推出光子 HBM 级内存设备)IT 时代网

[2026-11-16](Penguin Solutions Unveils Industry’s First Photonics-Based HBM-Class Memory Appliance)Penguin Solutions 官方新闻

[2026-11-16](Penguin 联手 Marvell 推出光子内存设备,冲击 AI 内存墙)半导体行业观察

[2026-11-16](Penguin MemoryAI 光子设备:硅光子打造 HBM 级共享内存)GuruFocus

【免责声明】

本文仅为行业资讯整理,不构成服务器、内存硬件采购和芯片赛道投资决策依据。Penguin 光子 HBM 级内存设备的延迟指标、量产时间、定价、兼容 GPU 型号会持续调整;性能表现、交付节奏、生态适配情况以 Penguin Solutions 和 Marvell 官方后续公告为准。

今日大家都在搜的词: