您的位置首页 >数码 >

AMD MI455X 推理性能对比英伟达 Vera Rubin 最高领先 30%,单卡 DeepSeek-R1 吞吐 21333 Tokens/s

AMD 在 2026 年 11 月 12 日公布了新一代 Instinct MI455X 的实测推理数据:在 Helios 整柜方案上运行 DeepSeek-R1 模型、采用 MLPerf 推理离线(Offline)配置时,单颗 GPU 达到 21,333 Tokens/s 的吞吐,对比英伟达 Vera Rubin 最新公开的 MLPerf 离线结果,吞吐最高高出 30%。这是 AMD MI400 系列在前沿 AI 推理赛道上第一次以实测 Token 吞吐正面叫板英伟达旗舰平台,同时配合 432GB HBM4 大显存、更高的显存带宽和更宽裕的 Scale-up 互联带宽,整柜方案在大模型、长上下文和高并发推理场景下的硬件底子已经铺好。需要先说明的是,这组 30% 的数据来自 AMD 自家性能实验室 2026 年 10 月的测试,对标英伟达已公开的 MLPerf v6.1 Closed Division 提交结果,属于不同来源成绩对比,并非双方在同一套环境下完成的第三方头对头实测;最终实际表现会随模型、批次、上下文长度、软件版本和整机配置变化。

一、核心测试结果一览

1. 单卡推理吞吐关键数据

对比项AMD Instinct MI455X(Helios 方案)NVIDIA Vera Rubin(公开 MLPerf 结果)
测试模型DeepSeek-R1DeepSeek-R1(同基准类别)
测试配置MLPerf Inference Offline(AMD 实测)MLPerf Inference v6.1 Closed Division 公开提交
单 GPU 吞吐21,333 Tokens/s已公开离线成绩(AMD 对标基准)
吞吐差值最高领先约 30%基准方
HBM 显存432GB HBM4288GB
显存带宽23.3 TB/s22.0 TB/s
测试时间AMD 性能实验室 2026 年 10 月公开结果,AMD 于 2026 年 11 月 11 日调取

2. Helios 整柜方案关键规格

  • GPU 规模:72 颗 MI455X,搭配第 6 代 EPYC "Venice" 9006 系列服务器 CPU 与 Pensando 网络
  • 整柜显存:31TB HBM4,对比 Vera Rubin NVL72 约 20.7TB,显存容量高出约 50%
  • 整柜显存总带宽:1.7PB/s 聚合 HBM 带宽
  • Scale-up 互联带宽:260TB/s 柜内扩展带宽
  • 算力口径:FP4 稠密算力约 2.9 Exaflops;FP8 算力约 1.4 Exaflops
  • 带宽优势:AMD 测算 Helios 的 HBM 带宽比 Vera Rubin 最高高出约 20%,Scale-up 互联带宽也更宽裕

二、MI455X 推理性能跑赢的主要原因

  1. 显存容量更大,长上下文和 KV Cache 压力更小
  2. 显存带宽更高,数据喂给计算单元的速度更快
  3. 整柜互联带宽更宽裕,多卡协同更顺畅
  4. 架构迭代支撑低精度推理

MI455X 单卡 432GB HBM4,比 Vera Rubin 单卡 288GB 多出 144GB。大模型推理、长上下文对话和 Agent 场景下,KV Cache 非常吃显存;显存容量越充裕,模型越不容易被拆分到更多 GPU 之间反复搬运数据,GPU 等待数据的空转时间就越少,有效吞吐更有保障。

MI455X 显存带宽 23.3TB/s,Vera Rubin 为 22.0TB/s,MI455X 带宽高出约 6%;整柜口径下 AMD 测算 HBM 带宽最高领先约 20%。推理场景对带宽敏感,带宽越高,批量请求下 Token 生成和数据读取越不容易卡在内存通道上。

Helios 把 72 颗 GPU 连成一个 Scale-up 计算域,柜内带宽 260TB/s。大模型推理需要 GPU 之间频繁交换激活值和中间结果,互联带宽越宽,多卡协同的通信瓶颈越轻,整柜实际吞吐更容易接近理论峰值。

MI455X 采用 CDNA 5 架构,OCP MXFP4 峰值理论性能 40.3 PFLOPs,定位前沿 AI 推理与训练;相对上代 MI355X,MXFP4 口径下理论峰值性能预计最高提升 4 倍,硬件底子面向 FP4/FP8 等低精度推理做了针对性优化。

三、MI400 系列产品矩阵怎么分工

型号显存配置主要定位关键特点
MI455X432GB HBM4前沿 AI、大模型推理、长上下文与高并发大显存 + 高带宽,Helios 整柜主力,本次 30% 推理领先数据的主角
MI450X288GB HBM4成本敏感型大规模 AI 部署核心算力、显存带宽、Scale-up/Scale-out 互联能力与 MI455X 一致,仅显存容量下调,适配能放进 288GB 的模型与任务
MI430X432GB HBM4,带宽最高 23.3TB/s科学计算、主权 AI、HPC原生 FP64 双精度计算,面向精密模拟、科研仿真与 AI + 科学计算混合负载

三款芯片共享 Helios 机架架构与 ROCm 开放软件基础,客户可以按模型大小、上下文长度、并发规模和预算需求选配置。

四、怎么理解这组 30% 推理数据

  • 适用范围:本次对比基于 DeepSeek-R1 这一模型、MLPerf 离线配置和特定软硬件环境,不等于在所有模型、所有在线交互业务上都稳定领先 30%。
  • 测试口径:MLPerf Offline 测的是定义负载下的处理吞吐,不重复复现在线服务的实时时延约束;换成在线高交互场景、不同批次大小、上下文长度或软件版本,结果可能变化。
  • 对比来源:AMD 测的是自家实验室成绩,英伟达一侧用的是已公开的 MLPerf 提交结果,不是同一轮、同一环境下的联合实测;第三方独立复现和大规模生产环境表现仍需后续观察。
  • 系统与生态因素:推理实际表现还受整机调度、网络、散热、供电、ROCm 软件栈适配和框架优化影响,单看峰值跑分不能直接等同于采购后的实际产出。

五、后续可以关注的验证节点

  1. 等待 MLCommons 新一轮 MLPerf 正式提交,看 MI455X 是否以同轮次、同组别公开成绩与 Vera Rubin 同台对比。
  2. 关注 OpenAI、微软、Meta、Anthropic 等已宣布新增 AMD 算力采购的客户上线后的真实模型适配与长期稳定性反馈。
  3. 跟踪 ROCm 对 PyTorch、vLLM、Triton 等主流框架的兼容性优化进度,以及大规模集群的故障恢复、运维成本表现。
  4. 对比不同模型(MoE 大模型、长上下文、高并发 Agent 负载)下 MI455X 与 Vera Rubin 的单 Token 成本、每兆瓦 Token 产出等生产口径指标。

【常见问题】

问题 1:AMD MI455X 对比英伟达 Vera Rubin 的 30% 推理性能领先是在什么测试条件下得出的?

回答 1:这组 MI455X 推理性能数据由 AMD 性能实验室在 2026 年 10 月测得,运行模型为 DeepSeek-R1,采用 MLPerf Inference Offline 离线配置,单颗 GPU 吞吐 21,333 Tokens/s;对标对象是英伟达 Vera Rubin 最新公开的 MLPerf v6.1 Closed Division 离线结果,AMD 于 2026 年 11 月 11 日调取该公开成绩,按同基准类别对比后得出最高约 30% 的吞吐领先,测试环境为 AMD Helios 整柜方案。

问题 2:MI455X 推理性能领先 Vera Rubin,主要靠显存还是算力?

回答 2:从公开口径看,MI455X 的推理性能优势首先来自显存与带宽:单卡 432GB HBM4 对 Vera Rubin 的 288GB,显存容量高出 50%,显存带宽 23.3TB/s 对 22.0TB/s,整柜 HBM 带宽 AMD 测算最高领先约 20%;再配合 260TB/s 的 Scale-up 互联带宽,减少多卡间数据搬运空转。低精度算力方面 MI455X 也有 CDNA 5 架构和 MXFP4 峰值性能支撑,但 30% 这一结论是在指定模型与离线配置下得出的,不能直接外推到所有推理业务。

问题 3:MI455X 和同系列 MI450X 在推理性能和显存上有什么区别?

回答 3:MI455X 配备 432GB HBM4,MI450X 配备 288GB HBM4,两者核心算力、显存带宽以及 Scale-up/Scale-out 互联能力保持一致,都跑在同一套 Helios 机架架构和 ROCm 软件基础上。跑大模型、长上下文或高并发推理、显存余量需求大的任务选 MI455X;模型和负载能放进 288GB、更看重部署成本的场景选 MI450X,二者不存在核心算力层面的推理性能阉割。

问题 4:第三方有没有独立验证过 MI455X 对 Vera Rubin 的推理性能优势?

回答 4:目前公开的 30% 领先数字属于 AMD 自测成绩对标英伟达已公开 MLPerf 结果,不是同一套环境下的第三方头对头实测,也不是 AMD 在最新一轮 MLPerf 中的正式同台提交。不同媒体和行业分析都提示,实际推理性能会随模型选型、批次大小、上下文长度、软件版本和整机配置改变,采购前建议用自身业务模型做实测复现,并等待独立基准与客户上线后的生产数据验证。

问题 5:Helios 整柜和 Vera Rubin NVL72 在推理显存规模上差距多大?

回答 5:AMD Helios 整柜搭载 72 颗 MI455X,HBM4 总容量约 31TB,整柜聚合 HBM 带宽 1.7PB/s,Scale-up 带宽 260TB/s;英伟达 Vera Rubin NVL72 公开规格约 20.7TB HBM4。整柜显存容量 MI455X 方案比 Vera Rubin NVL72 多出约 50%,对超大 MoE 模型、长上下文和大量 KV Cache 的推理场景更有容量余量;具体吞吐和成本仍需结合实际模型与软件优化综合评估。

【参考资料】

  • [2026-11-16](AMD 正面硬刚英伟达:MI455X 单卡吞吐 21333 Tokens/s,较 Vera Rubin 高 30%)新浪科技(转 IT 之家)
  • [2026-11-16](AMD expands Instinct MI400 accelerator portfolio)IN Electronics & Design
  • [2026-11-16](AMD expands MI400 GPU portfolio with focus on scientific computing and AI inference)Express Computer
  • [2026-11-15](AMD Adds MI450X and Reports 21,333 Tokens Per Second)News Today World
  • [2026-11-15](AMD 单卡每秒 21333 个 Token:MI455X 推理测试解读)抖音・Token 咖啡
  • [2026-11-14](AI 每日情报局:MI455X 单卡 21333 token/s,宣称超英伟达 30%)抖音・AI 每日情报局
  • [2026-11-12](AMD Advances the Instinct MI400 Series for AI and Scientific Computing)AMD Newsroom
  • [2026-11-12](AMD adds AI chip option, claims up to 30% throughput lead in DeepSeek-R1 test)Superpower Daily
  • [2026-07-23](AMD Launches Helios: The Highest Performing Rackscale AI Infrastructure Solution)AMD Blog

【免责声明】

本文所引用的性能数据、规格对比均来自 AMD 官方公开新闻稿、官网产品页面及第三方公开报道,其中 30% 吞吐领先为 AMD 性能实验室在指定模型、MLPerf 离线配置下的自测结果,对标英伟达已公开的 MLPerf 提交成绩,测试环境、模型版本、批次策略、上下文长度、软件栈与整机配置不同,实际表现可能存在差异。文中信息仅供行业资讯参考,不构成任何采购建议、投资建议或性能承诺;具体产品规格、定价与交付节奏以厂商正式发布及实际合同为准。英伟达、AMD 及相关产品名称归各自权利人所有。

今日大家都在搜的词: