英伟达计划投资 d-Matrix，这项合作将推动 GPU、CUDA 软件生态和 3D DRAM 内存技术深度联动，实现算力与存储之间的高效协同，为 AI 大模型推理场景带来新的技术发展方向。在大模型运行过程中，存储带宽瓶颈是影响算力发挥的关键因素，传统内存架构会在数据搬运环节消耗大量开销。d-Matrix 拥有存内计算相关技术，搭配 3D DRAM 高密度高带宽内存方案，能够减少数据在内存与计算单元之间来回传输的损耗。英伟达 GPU 与成熟 CUDA 生态具备庞大的开发者基础与完善的模型适配能力，双方合作可以把 3D DRAM、存内计算技术融入现有 AI 开发体系，降低开发者迁移成本。技术落地会先完成硬件接口适配与 CUDA 软件栈适配，验证大模型推理任务的吞吐与时延提升，再逐步扩大模型规模，推进商业化工程落地。
传统 GPU 方案与融合 3D DRAM 方案对比
表格
| 项目 | 传统 GPU + 普通 DRAM | GPU+CUDA+3D DRAM 协同方案 |
|---|---|---|
| 数据流转 | 计算单元与内存分离，频繁搬运数据 | 3D DRAM 高密度集成，减少数据传输开销 |
| 带宽表现 | 受限于传统内存接口带宽 | 3D 堆叠带来更高内存带宽 |
| 软件生态 | CUDA 原生支持，生态成熟 | 复用 CUDA 生态，叠加 3D DRAM 硬件加速能力 |
| 适用场景 | 大模型训练、通用推理 | 大模型推理，需要高吞吐、低时延的 AI 任务 |
本次技术协同带来的产业价值清单
- 缓解 AI 算力里经典的存储墙问题，提升内存带宽，降低数据搬运功耗
- 依托 CUDA 成熟生态，开发者不需要大规模重构代码，即可使用 3D DRAM 硬件能力
- 助力 d-Matrix 存内计算技术工程化落地，拓展 AI 硬件技术路线
- 面向大模型推理场景，提升算力利用率，优化单位算力的能效
- 丰富英伟达算力硬件体系，为不同规模 AI 任务提供更多硬件选择
【常见问题】
问题 1：英伟达拟投资 d-Matrix，GPU、CUDA 生态与 3D DRAM 的 “世纪握手” 是什么含义？
回答 1：英伟达拟投资 d-Matrix，就是把成熟 GPU 硬件、CUDA 软件生态，和 3D DRAM 高密度内存技术结合，打通算力与存储，缓解存储瓶颈，实现 AI 软硬件体系的协同创新。
问题 2：3D DRAM 搭配英伟达 GPU 与 CUDA 生态，相比传统内存架构有什么优势？
回答 2：3D DRAM 采用堆叠结构，拥有更高带宽，减少数据来回搬运的开销，依托 CUDA 生态，开发者可以低成本调用这项硬件能力，提升大模型推理的能效与吞吐。
问题 3：英伟达与 d-Matrix 的这次合作，优先落地在哪些 AI 场景？
回答 3：英伟达拟投资 d-Matrix，GPU、CUDA 生态搭配 3D DRAM，优先面向大模型推理场景，优化高并发、低时延的 AI 服务，后续再持续拓展更多 AI 任务。
【数据来源】
[2026-10-11] 英伟达拟投资 d-Matrix：GPU、CUDA 生态与 3D DRAM 迎来 ” 世纪握手” 创业邦
[2026-10-10] d-Matrix 获英伟达投资，3D DRAM 与存内计算赛道新进展 36 氪
[2026-10-09] 3D DRAM 技术原理，AI 芯片存储带宽优化科普 电子工程世界
免责声明
本内容仅为科技行业资讯科普参考，不构成投资、硬件选型建议，英伟达投资 d-Matrix 项目进展、技术落地成果以企业官方发布信息为准。