谷歌现在直接对外售卖整套整柜 TPU 算力设备,还加快交付节奏,用来冲击英伟达 AI 推理算力市场,第三方机构 SemiAnalysis 的测试数据显示,在指定推理场景下,谷歌 TPU 每美元推理性能相比英伟达 GB200 高出五成。以前谷歌 TPU 大多只放在自家云平台给客户租用,不直接卖硬件整机,高端 AI 算力又长期被英伟达的 Blackwell 系列 GPU 把持,很多企业买算力只能选英伟达方案。这次谷歌改成整柜交付模式,客户可以直接采购整套算力柜部署在自己的数据中心,整套柜子里面包含计算芯片、网络互联、存储和配套 TPU 软件栈,不用单独采购配件再组装,交付和部署流程更省心。不过这个五成的性能优势不是所有场景都成立,只在特定模型、固定并发和推理参数下有效,一旦换模型、调整批处理大小,英伟达这边也能通过软件优化追上来,双方现在还在持续做基准测试比拼。
一、TPU 整柜售卖模式说明
- 新旧商业模式对比
- 整柜 TPU 包含组件清单
| 模式 | 方式 | 部署位置 | 特点 |
|---|---|---|---|
| 老模式 | 谷歌云 TPU 算力租赁 | 谷歌机房 | 客户按需租用,不用管硬件运维 |
| 新模式 | 整柜 TPU 系统对外销售 | 客户自有数据中心 | 客户买断硬件,自主运维,整套交付 |
- TPU 芯片(主力是 TPUv7 Ironwood)
- 配套高速互联网络模块
- 存储单元、供电散热系统
- TPU 编译栈、推理调度、TorchTPU 软件工具链
- 技术支持服务
- 交付节奏
- 谷歌从 2026 年 Q2 启动首批整柜 TPU 对外交付
- 近期持续提速排期,扩大面向企业客户供货
- 客户包含 AI 实验室、零售企业、金融机构、高校等
二、TPUv7 Ironwood 和 GB200 推理对比要点
- 测试口径:SemiAnalysis AgentX 推理基准测试,限定交互类大模型场景
- 核心指标:特定条件下 TPU 每美元 token 产出,比 GB200 高出约 50%
- 成本数据:在固定交互速度下,TPU 的每百万 token 推理成本更低
- 局限性:优势是场景化结果,不是全场景碾压;英伟达可以通过内核、调度器优化拉高性价比
- 软件短板:TPU 生态远不如 CUDA 成熟,迁移现有大模型项目需要额外适配开发
三、谷歌这次对外卖整柜 TPU 的目的
- 打破英伟达在 AI 推理算力市场的垄断,抢推理业务客户
- 把 TPU 从内部自用、云租赁产品,升级成独立硬件销售业务
- 吸引对推理成本敏感的客户,比如对话机器人、AI 应用服务商
- 同步推进 TorchTPU,降低 PyTorch 模型迁移到 TPU 的门槛
四、双方后续竞争动作
- 谷歌:持续迭代 TPU 新品,拓展更多云厂商渠道,和甲骨文等合作上架 TPU 算力
- 英伟达:针对基准测试快速组织工程师做内核优化,在部分模型场景追回性能性价比
【常见问题】
问题 1:谷歌整柜 TPU 外售,推理每美元性能领先 GB200 五成,这个数据是所有场景都成立吗?
回答 1:谷歌整柜 TPU 外售对应的推理每美元性能领先 GB200 五成,只在 SemiAnalysis 指定的推理基准场景下有效,换模型、并发参数、推理精度之后,优势会变化,并不是全场景稳定领先。
问题 2:谷歌整柜 TPU 外售是什么意思,和云上面租 TPU 有什么不一样?
回答 2:谷歌整柜 TPU 外售是直接把全套算力柜子卖给客户,客户可以部署在自己的数据中心;云租赁是客户只租用谷歌机房里的 TPU 算力,硬件不归客户,这也是这次谷歌冲击英伟达市场的关键变化。
问题 3:想买谷歌整柜 TPU,对使用的大模型有什么要求?
回答 3:谷歌整柜 TPU 适合做推理场景,模型需要适配 TPU 软件栈,优先适配 TorchTPU,原生 CUDA 模型迁移到 TPU 需要额外的代码改造,相比直接跑在英伟达 GB200 上麻烦一点。
问题 4:谷歌整柜 TPU 外售加速交付,对英伟达 GB200 的客户会带来什么影响?
回答 4:谷歌整柜 TPU 外售加速交付之后,看重推理成本的企业客户多了一个算力选择,会分流一部分原本打算采购英伟达 GB200 做推理业务的订单,英伟达也在持续优化软件来守住性价比优势。
【参考资料】
[2026-11-16](谷歌奇袭英伟达:整柜 TPU 外售加速交付,推理每美元性能领先 GB200 五成)36 氪
[2026-11-16](谷歌整柜 TPU 外售提速:每美元推理性能之争改写 AI 算力定价权)通信世界
[2026-11-10](谷歌加速挑战英伟达?一年连发四款 TPU)新浪财经
[2026-11-05](Google's TPUv7 Posts Agentic Inference Results That Beat or Rival Nvidia Blackwell on Cost)SemiAnalysis
【免责声明】
本文仅整理公开行业报道内容,谷歌整柜 TPU 外售、TPU 对比 GB200 的每美元性能测试结果受测试条件影响,不构成算力采购、芯片投资建议;实测效果、交付周期、价格以谷歌官方对外信息为准。
