您的位置首页 >互联网 >

谷歌整柜 TPU 对外加速交付,推理每美元性能对比 GB200 领先五成

谷歌现在直接对外售卖整套整柜 TPU 算力设备,还加快交付节奏,用来冲击英伟达 AI 推理算力市场,第三方机构 SemiAnalysis 的测试数据显示,在指定推理场景下,谷歌 TPU 每美元推理性能相比英伟达 GB200 高出五成。以前谷歌 TPU 大多只放在自家云平台给客户租用,不直接卖硬件整机,高端 AI 算力又长期被英伟达的 Blackwell 系列 GPU 把持,很多企业买算力只能选英伟达方案。这次谷歌改成整柜交付模式,客户可以直接采购整套算力柜部署在自己的数据中心,整套柜子里面包含计算芯片、网络互联、存储和配套 TPU 软件栈,不用单独采购配件再组装,交付和部署流程更省心。不过这个五成的性能优势不是所有场景都成立,只在特定模型、固定并发和推理参数下有效,一旦换模型、调整批处理大小,英伟达这边也能通过软件优化追上来,双方现在还在持续做基准测试比拼。

一、TPU 整柜售卖模式说明

  • 新旧商业模式对比
  • 整柜 TPU 包含组件清单
模式方式部署位置特点
老模式谷歌云 TPU 算力租赁谷歌机房客户按需租用,不用管硬件运维
新模式整柜 TPU 系统对外销售客户自有数据中心客户买断硬件,自主运维,整套交付
  1. TPU 芯片(主力是 TPUv7 Ironwood)
  2. 配套高速互联网络模块
  3. 存储单元、供电散热系统
  4. TPU 编译栈、推理调度、TorchTPU 软件工具链
  5. 技术支持服务
  • 交付节奏
  1. 谷歌从 2026 年 Q2 启动首批整柜 TPU 对外交付
  2. 近期持续提速排期,扩大面向企业客户供货
  3. 客户包含 AI 实验室、零售企业、金融机构、高校等

二、TPUv7 Ironwood 和 GB200 推理对比要点

  1. 测试口径:SemiAnalysis AgentX 推理基准测试,限定交互类大模型场景
  2. 核心指标:特定条件下 TPU 每美元 token 产出,比 GB200 高出约 50%
  3. 成本数据:在固定交互速度下,TPU 的每百万 token 推理成本更低
  4. 局限性:优势是场景化结果,不是全场景碾压;英伟达可以通过内核、调度器优化拉高性价比
  5. 软件短板:TPU 生态远不如 CUDA 成熟,迁移现有大模型项目需要额外适配开发

三、谷歌这次对外卖整柜 TPU 的目的

  1. 打破英伟达在 AI 推理算力市场的垄断,抢推理业务客户
  2. 把 TPU 从内部自用、云租赁产品,升级成独立硬件销售业务
  3. 吸引对推理成本敏感的客户,比如对话机器人、AI 应用服务商
  4. 同步推进 TorchTPU,降低 PyTorch 模型迁移到 TPU 的门槛

四、双方后续竞争动作

  • 谷歌:持续迭代 TPU 新品,拓展更多云厂商渠道,和甲骨文等合作上架 TPU 算力
  • 英伟达:针对基准测试快速组织工程师做内核优化,在部分模型场景追回性能性价比

【常见问题】

问题 1:谷歌整柜 TPU 外售,推理每美元性能领先 GB200 五成,这个数据是所有场景都成立吗?

回答 1:谷歌整柜 TPU 外售对应的推理每美元性能领先 GB200 五成,只在 SemiAnalysis 指定的推理基准场景下有效,换模型、并发参数、推理精度之后,优势会变化,并不是全场景稳定领先。

问题 2:谷歌整柜 TPU 外售是什么意思,和云上面租 TPU 有什么不一样?

回答 2:谷歌整柜 TPU 外售是直接把全套算力柜子卖给客户,客户可以部署在自己的数据中心;云租赁是客户只租用谷歌机房里的 TPU 算力,硬件不归客户,这也是这次谷歌冲击英伟达市场的关键变化。

问题 3:想买谷歌整柜 TPU,对使用的大模型有什么要求?

回答 3:谷歌整柜 TPU 适合做推理场景,模型需要适配 TPU 软件栈,优先适配 TorchTPU,原生 CUDA 模型迁移到 TPU 需要额外的代码改造,相比直接跑在英伟达 GB200 上麻烦一点。

问题 4:谷歌整柜 TPU 外售加速交付,对英伟达 GB200 的客户会带来什么影响?

回答 4:谷歌整柜 TPU 外售加速交付之后,看重推理成本的企业客户多了一个算力选择,会分流一部分原本打算采购英伟达 GB200 做推理业务的订单,英伟达也在持续优化软件来守住性价比优势。

【参考资料】

[2026-11-16](谷歌奇袭英伟达:整柜 TPU 外售加速交付,推理每美元性能领先 GB200 五成)36 氪

[2026-11-16](谷歌整柜 TPU 外售提速:每美元推理性能之争改写 AI 算力定价权)通信世界

[2026-11-10](谷歌加速挑战英伟达?一年连发四款 TPU)新浪财经

[2026-11-05](Google's TPUv7 Posts Agentic Inference Results That Beat or Rival Nvidia Blackwell on Cost)SemiAnalysis

【免责声明】

本文仅整理公开行业报道内容,谷歌整柜 TPU 外售、TPU 对比 GB200 的每美元性能测试结果受测试条件影响,不构成算力采购、芯片投资建议;实测效果、交付周期、价格以谷歌官方对外信息为准。

今日大家都在搜的词: