您的位置首页 >科技要闻 >

群联展示计算型SSD内置NPU+64GB内存 硬盘本地运行AI模型

群联在 SC26 超级计算大会上展出这款计算型 SSD 原型,核心思路就是把 AI 计算搬到存储盘本地,盘内自带 NPU 和 64GB 独立内存,不用把全部数据传到主机 GPU 或者 CPU,直接在硬盘里完成 AI 推理,只返回处理结果;传统 AI 服务器最大瓶颈就是数据来回搬运,大量数据集反复在 SSD、内存、GPU 之间传输,带宽被占满,这款计算型 SSD 就是用来解决这个问题,在适配的 AI 任务里,数据传输量可以减少 10~100 倍,减轻主机算力压力;想要用好这套方案,先看懂它的硬件参数、支持的 AI 框架,分清它和普通企业 SSD、独立 AI 加速卡的区别,再看懂它的适用场景和局限,就能理解存储内计算这个新方向。

一、这款计算型 SSD 核心参数清单

  • 内置 NPU,算力标注 36800 DMIPS(Dhrystone 基准,不是 TOPS)
  • 自带 64GB 独立本地内存,内存带宽 130GB/s
  • 原生支持 PyTorch、vLLM、OpenVINO、llama.cpp,不用特殊开发工具
  • 定位企业级计算存储方案,属于原型展示,暂未公布正式发售时间、定价、接口规格
  • 同场还有另一款 Mixed Media 混合介质 SSD,pSLC 缓存 + QLC 闪存,侧重存储性能提升

二、计算型 SSD 和常规硬件对比表

硬件类型AI 计算位置数据流转方式适合场景短板
群联这款计算型 SSDSSD 盘内 NPU数据留在 SSD,本地推理,仅回传结果批量检索、文档解析、轻量大模型推理NPU 算力有限,不适合大模型训练
普通企业 NVMe SSD主机 GPU/CPU全量数据读出送到主机内存再计算通用存储、原始数据存放反复读取会占用大量 PCIe 带宽
独立 AI 加速卡(GPU/NPU 卡)加速卡本身数据先读入主机内存再传给卡大模型训练、高并发重度推理成本高、需要大量数据搬运

三、计算型 SSD 落地工作流程

  1. 数据集保存在这块 SSD 闪存里,不需要预先全量加载到服务器内存
  2. AI 模型加载进 SSD 自带的 64GB 本地内存,由盘上 NPU 运行推理
  3. SSD 直接读取本地闪存数据,完成向量检索、文本解析、模型推理
  4. 只把推理结果、命中摘要等少量数据传回主机,原始数据留在盘内
  5. 主机 CPU/GPU 释放出来,处理更复杂的调度、结果汇总等上层任务

四、适合与不适合的业务场景清单

✅ 适合场景

  • 海量文档、日志库本地检索与摘要提取
  • 向量数据库批量召回、本地 Embedding 推理
  • 中小参数大模型离线推理、私有数据本地分析
  • HPC、AI 数据中心里需要减少 PCIe 带宽压力的任务

❌ 不适合场景

  • 大模型全参数训练、微调
  • 超高并发、低延迟实时对话服务
  • 需要超大显存、极高 TOPS 算力的重度生成任务

五、核心优势与现存限制

优势:

  1. 就近计算,大幅削减数据搬运,缓解服务器带宽瓶颈
  2. 兼容主流推理框架,开发改造成本低
  3. 数据不用搬出存储,在私有数据场景更利于数据隔离

限制:

  1. 当前只是原型方案,没有量产时间表
  2. 36800 DMIPS 是通用指令基准,不等于 AI 算力 TOPS,推理能力有上限
  3. 64GB 本地内存固定,无法像主机内存一样随意扩容
  4. 只适合特定推理负载,不能替代 GPU 做训练

【相关 FAQ】

问题 1:群联这款计算型 SSD 内置 NPU+64GB 内存,是怎么在硬盘本地运行 AI 模型的?

回答 1:群联这款计算型 SSD 内置 NPU+64GB 内存,模型会加载进 SSD 自带的 64GB 本地内存,NPU 直接读取盘内闪存上的原始数据做推理,不需要把全部数据上传到主机,推理完成后只回传结果,实现硬盘本地运行 AI 模型。

问题 2:群联这款计算型 SSD 的 36800 DMIPS,和我们常说的 AI 算力 TOPS 是一回事吗?

回答 2:群联这款计算型 SSD 标注的 36800 DMIPS 是通用整数运算基准,不是 AI 算力 TOPS,只能用来参考通用指令性能,不能直接用来衡量大模型推理的 AI 算力,二者不能等同。

问题 3:群联这款计算型 SSD 支持哪些 AI 框架,开发者需要重新适配代码吗?

回答 3:群联这款计算型 SSD 支持 PyTorch、vLLM、OpenVINO、llama.cpp,官方说明不需要专用开发工具,原有基于这些框架的推理代码可以直接迁移适配,降低开发成本。

问题 4:群联这款计算型 SSD 和普通 SSD 相比,最大价值是什么?

回答 4:群联这款计算型 SSD 和普通 SSD 相比,最大价值是就近计算,在适配的 AI 任务下,数据传输量最高减少 100 倍,缓解服务器 PCIe 带宽压力,释放主机 CPU 和 GPU 资源,适合海量私有数据的本地 AI 推理。

【参考资料】

[2026-11-17](SC26:群联发布下一代存储创新,计算型 SSD 技术介绍)群联官网

[2026-11-21](群联展示内置 NPU 与 64GB 内存的计算 SSD,可本地跑 AI)IT 之家

[2026-11-21](Phison shows SSD design with NPU and 64GB memory for local AI inference)TechSpot

[2026-11-22](群联 SC26 两款 AI 企业 SSD 解读:计算存储 + 混合介质)DoNews

【免责声明】

本文是群联 SC26 计算型 SSD 原型方案的技术科普,该产品目前仅为展示原型,暂无量产、定价、正式接口规格;文中性能、数据缩减比例均为厂商实验室宣称指标,实际效果受业务负载、模型大小影响;DMIPS 算力指标不能直接等同于 AI 推理算力,上线前务必做实测验证;产品后续量产信息以群联官方公告为准。

今日大家都在搜的词: