AMD 在 2026 年 11 月 12 日公布了新一代 Instinct MI455X 的实测推理数据:在 Helios 整柜方案上运行 DeepSeek-R1 模型、采用 MLPerf 推理离线(Offline)配置时,单颗 GPU 达到 21,333 Tokens/s 的吞吐,对比英伟达 Vera Rubin 最新公开的 MLPerf 离线结果,吞吐最高高出 30%。这是 AMD MI400 系列在前沿 AI 推理赛道上第一次以实测 Token 吞吐正面叫板英伟达旗舰平台,同时配合 432GB HBM4 大显存、更高的显存带宽和更宽裕的 Scale-up 互联带宽,整柜方案在大模型、长上下文和高并发推理场景下的硬件底子已经铺好。需要先说明的是,这组 30% 的数据来自 AMD 自家性能实验室 2026 年 10 月的测试,对标英伟达已公开的 MLPerf v6.1 Closed Division 提交结果,属于不同来源成绩对比,并非双方在同一套环境下完成的第三方头对头实测;最终实际表现会随模型、批次、上下文长度、软件版本和整机配置变化。
一、核心测试结果一览
1. 单卡推理吞吐关键数据
| 对比项 | AMD Instinct MI455X(Helios 方案) | NVIDIA Vera Rubin(公开 MLPerf 结果) |
|---|---|---|
| 测试模型 | DeepSeek-R1 | DeepSeek-R1(同基准类别) |
| 测试配置 | MLPerf Inference Offline(AMD 实测) | MLPerf Inference v6.1 Closed Division 公开提交 |
| 单 GPU 吞吐 | 21,333 Tokens/s | 已公开离线成绩(AMD 对标基准) |
| 吞吐差值 | 最高领先约 30% | 基准方 |
| HBM 显存 | 432GB HBM4 | 288GB |
| 显存带宽 | 23.3 TB/s | 22.0 TB/s |
| 测试时间 | AMD 性能实验室 2026 年 10 月 | 公开结果,AMD 于 2026 年 11 月 11 日调取 |
2. Helios 整柜方案关键规格
- GPU 规模:72 颗 MI455X,搭配第 6 代 EPYC "Venice" 9006 系列服务器 CPU 与 Pensando 网络
- 整柜显存:31TB HBM4,对比 Vera Rubin NVL72 约 20.7TB,显存容量高出约 50%
- 整柜显存总带宽:1.7PB/s 聚合 HBM 带宽
- Scale-up 互联带宽:260TB/s 柜内扩展带宽
- 算力口径:FP4 稠密算力约 2.9 Exaflops;FP8 算力约 1.4 Exaflops
- 带宽优势:AMD 测算 Helios 的 HBM 带宽比 Vera Rubin 最高高出约 20%,Scale-up 互联带宽也更宽裕
二、MI455X 推理性能跑赢的主要原因
- 显存容量更大,长上下文和 KV Cache 压力更小
- 显存带宽更高,数据喂给计算单元的速度更快
- 整柜互联带宽更宽裕,多卡协同更顺畅
- 架构迭代支撑低精度推理
MI455X 单卡 432GB HBM4,比 Vera Rubin 单卡 288GB 多出 144GB。大模型推理、长上下文对话和 Agent 场景下,KV Cache 非常吃显存;显存容量越充裕,模型越不容易被拆分到更多 GPU 之间反复搬运数据,GPU 等待数据的空转时间就越少,有效吞吐更有保障。
MI455X 显存带宽 23.3TB/s,Vera Rubin 为 22.0TB/s,MI455X 带宽高出约 6%;整柜口径下 AMD 测算 HBM 带宽最高领先约 20%。推理场景对带宽敏感,带宽越高,批量请求下 Token 生成和数据读取越不容易卡在内存通道上。
Helios 把 72 颗 GPU 连成一个 Scale-up 计算域,柜内带宽 260TB/s。大模型推理需要 GPU 之间频繁交换激活值和中间结果,互联带宽越宽,多卡协同的通信瓶颈越轻,整柜实际吞吐更容易接近理论峰值。
MI455X 采用 CDNA 5 架构,OCP MXFP4 峰值理论性能 40.3 PFLOPs,定位前沿 AI 推理与训练;相对上代 MI355X,MXFP4 口径下理论峰值性能预计最高提升 4 倍,硬件底子面向 FP4/FP8 等低精度推理做了针对性优化。
三、MI400 系列产品矩阵怎么分工
| 型号 | 显存配置 | 主要定位 | 关键特点 |
|---|---|---|---|
| MI455X | 432GB HBM4 | 前沿 AI、大模型推理、长上下文与高并发 | 大显存 + 高带宽,Helios 整柜主力,本次 30% 推理领先数据的主角 |
| MI450X | 288GB HBM4 | 成本敏感型大规模 AI 部署 | 核心算力、显存带宽、Scale-up/Scale-out 互联能力与 MI455X 一致,仅显存容量下调,适配能放进 288GB 的模型与任务 |
| MI430X | 432GB HBM4,带宽最高 23.3TB/s | 科学计算、主权 AI、HPC | 原生 FP64 双精度计算,面向精密模拟、科研仿真与 AI + 科学计算混合负载 |
三款芯片共享 Helios 机架架构与 ROCm 开放软件基础,客户可以按模型大小、上下文长度、并发规模和预算需求选配置。
四、怎么理解这组 30% 推理数据
- 适用范围:本次对比基于 DeepSeek-R1 这一模型、MLPerf 离线配置和特定软硬件环境,不等于在所有模型、所有在线交互业务上都稳定领先 30%。
- 测试口径:MLPerf Offline 测的是定义负载下的处理吞吐,不重复复现在线服务的实时时延约束;换成在线高交互场景、不同批次大小、上下文长度或软件版本,结果可能变化。
- 对比来源:AMD 测的是自家实验室成绩,英伟达一侧用的是已公开的 MLPerf 提交结果,不是同一轮、同一环境下的联合实测;第三方独立复现和大规模生产环境表现仍需后续观察。
- 系统与生态因素:推理实际表现还受整机调度、网络、散热、供电、ROCm 软件栈适配和框架优化影响,单看峰值跑分不能直接等同于采购后的实际产出。
五、后续可以关注的验证节点
- 等待 MLCommons 新一轮 MLPerf 正式提交,看 MI455X 是否以同轮次、同组别公开成绩与 Vera Rubin 同台对比。
- 关注 OpenAI、微软、Meta、Anthropic 等已宣布新增 AMD 算力采购的客户上线后的真实模型适配与长期稳定性反馈。
- 跟踪 ROCm 对 PyTorch、vLLM、Triton 等主流框架的兼容性优化进度,以及大规模集群的故障恢复、运维成本表现。
- 对比不同模型(MoE 大模型、长上下文、高并发 Agent 负载)下 MI455X 与 Vera Rubin 的单 Token 成本、每兆瓦 Token 产出等生产口径指标。
【常见问题】
问题 1:AMD MI455X 对比英伟达 Vera Rubin 的 30% 推理性能领先是在什么测试条件下得出的?
回答 1:这组 MI455X 推理性能数据由 AMD 性能实验室在 2026 年 10 月测得,运行模型为 DeepSeek-R1,采用 MLPerf Inference Offline 离线配置,单颗 GPU 吞吐 21,333 Tokens/s;对标对象是英伟达 Vera Rubin 最新公开的 MLPerf v6.1 Closed Division 离线结果,AMD 于 2026 年 11 月 11 日调取该公开成绩,按同基准类别对比后得出最高约 30% 的吞吐领先,测试环境为 AMD Helios 整柜方案。
问题 2:MI455X 推理性能领先 Vera Rubin,主要靠显存还是算力?
回答 2:从公开口径看,MI455X 的推理性能优势首先来自显存与带宽:单卡 432GB HBM4 对 Vera Rubin 的 288GB,显存容量高出 50%,显存带宽 23.3TB/s 对 22.0TB/s,整柜 HBM 带宽 AMD 测算最高领先约 20%;再配合 260TB/s 的 Scale-up 互联带宽,减少多卡间数据搬运空转。低精度算力方面 MI455X 也有 CDNA 5 架构和 MXFP4 峰值性能支撑,但 30% 这一结论是在指定模型与离线配置下得出的,不能直接外推到所有推理业务。
问题 3:MI455X 和同系列 MI450X 在推理性能和显存上有什么区别?
回答 3:MI455X 配备 432GB HBM4,MI450X 配备 288GB HBM4,两者核心算力、显存带宽以及 Scale-up/Scale-out 互联能力保持一致,都跑在同一套 Helios 机架架构和 ROCm 软件基础上。跑大模型、长上下文或高并发推理、显存余量需求大的任务选 MI455X;模型和负载能放进 288GB、更看重部署成本的场景选 MI450X,二者不存在核心算力层面的推理性能阉割。
问题 4:第三方有没有独立验证过 MI455X 对 Vera Rubin 的推理性能优势?
回答 4:目前公开的 30% 领先数字属于 AMD 自测成绩对标英伟达已公开 MLPerf 结果,不是同一套环境下的第三方头对头实测,也不是 AMD 在最新一轮 MLPerf 中的正式同台提交。不同媒体和行业分析都提示,实际推理性能会随模型选型、批次大小、上下文长度、软件版本和整机配置改变,采购前建议用自身业务模型做实测复现,并等待独立基准与客户上线后的生产数据验证。
问题 5:Helios 整柜和 Vera Rubin NVL72 在推理显存规模上差距多大?
回答 5:AMD Helios 整柜搭载 72 颗 MI455X,HBM4 总容量约 31TB,整柜聚合 HBM 带宽 1.7PB/s,Scale-up 带宽 260TB/s;英伟达 Vera Rubin NVL72 公开规格约 20.7TB HBM4。整柜显存容量 MI455X 方案比 Vera Rubin NVL72 多出约 50%,对超大 MoE 模型、长上下文和大量 KV Cache 的推理场景更有容量余量;具体吞吐和成本仍需结合实际模型与软件优化综合评估。
【参考资料】
- [2026-11-16](AMD 正面硬刚英伟达:MI455X 单卡吞吐 21333 Tokens/s,较 Vera Rubin 高 30%)新浪科技(转 IT 之家)
- [2026-11-16](AMD expands Instinct MI400 accelerator portfolio)IN Electronics & Design
- [2026-11-16](AMD expands MI400 GPU portfolio with focus on scientific computing and AI inference)Express Computer
- [2026-11-15](AMD Adds MI450X and Reports 21,333 Tokens Per Second)News Today World
- [2026-11-15](AMD 单卡每秒 21333 个 Token:MI455X 推理测试解读)抖音・Token 咖啡
- [2026-11-14](AI 每日情报局:MI455X 单卡 21333 token/s,宣称超英伟达 30%)抖音・AI 每日情报局
- [2026-11-12](AMD Advances the Instinct MI400 Series for AI and Scientific Computing)AMD Newsroom
- [2026-11-12](AMD adds AI chip option, claims up to 30% throughput lead in DeepSeek-R1 test)Superpower Daily
- [2026-07-23](AMD Launches Helios: The Highest Performing Rackscale AI Infrastructure Solution)AMD Blog
【免责声明】
本文所引用的性能数据、规格对比均来自 AMD 官方公开新闻稿、官网产品页面及第三方公开报道,其中 30% 吞吐领先为 AMD 性能实验室在指定模型、MLPerf 离线配置下的自测结果,对标英伟达已公开的 MLPerf 提交成绩,测试环境、模型版本、批次策略、上下文长度、软件栈与整机配置不同,实际表现可能存在差异。文中信息仅供行业资讯参考,不构成任何采购建议、投资建议或性能承诺;具体产品规格、定价与交付节奏以厂商正式发布及实际合同为准。英伟达、AMD 及相关产品名称归各自权利人所有。
