英伟达推出 AI 内存全栈协同方案 Vera Rubin,推理吞吐量最高提升 30 倍

英伟达对外发布了名为 Vera Rubin 的 AI 内存全栈协同方案,这套方案针对大模型推理过程里内存瓶颈做优化,最高可以把推理吞吐量提升