谷歌在 11 月 9 日官宣,原本内部用来训练 Gemini、PaLM 大模型的分布式训练系统 Pathways,在 Google Cloud 平台正式全面开放,面向云客户提供大规模 AI 训练运行时能力,客户可以直接调用这套谷歌自研的调度底座,在 TPU 集群上跑 JAX 框架的大模型训练任务。传统大模型训练普遍采用 SPMD 锁步同步模式,所有芯片必须步调一致,一旦单块硬件故障,整个训练任务直接中断回滚,而且流水线、强化学习这类混合任务很容易出现算力闲置浪费。Pathways 采用单控制器架构,把整个计算任务抽象成一张计算图,由运行时自动把任务分配、张量分片、数据搬运调度到海量 TPU 芯片上,硬件故障时自动迁移任务,不用全部重启训练。客户落地使用的流程是,基于 JAX 编写模型代码,在 GKE 集群接入 Pathways 运行时,系统把跨 Pod、跨区域的 TPU 集群虚拟成统一算力池,再开启弹性容错、断点续训能力,开展大模型预训练、MoE 模型、强化学习等复杂训练任务。
一、Pathways 核心基础信息表
| 项目 | 详情 |
|---|---|
| 产品名称 | Cloud Pathways |
| 发布状态 | 正式可用(GA),2026-11-09 开放 |
| 底层框架 | JAX,适配谷歌 TPU 算力集群 |
| 部署载体 | Google Cloud GKE(谷歌 K8s 集群) |
| 原生用途 | 谷歌内部训练 Gemini、PaLM 等前沿大模型 |
| 核心架构 | 单控制器统一调度,虚拟设备抽象 |
| 核心能力 | 弹性容错、故障自动迁移、跨 TPU Pod 协同调度 |
| 适用任务 | 大模型预训练、MoE 混合专家模型、RLHF 强化学习、多阶段流水线训练 |
二、Pathways 对比传统 SPMD 分布式训练的优势清单
- 故障容错能力更强:单节点、单 TPU 硬件损坏时,系统自动把任务转移到健康芯片,不需要整体停训、从检查点回滚,谷歌披露 Gemini 2.5 训练阶段曾经频繁遇到硬件故障,靠这套架构降低中断损失
- 算力利用率更高:支持异步调度、多类型任务混跑,流水线、奖励模型、主模型训练可以并行执行,减少加速器空等
- 开发门槛降低:只用一套 Python 客户端,就能管理成千上万块 TPU,跨多个 TPU Pod、跨区域算力池,不用手动处理复杂多集群通信
- 弹性扩缩容:算力资源充足时扩容,资源紧张时缩容,训练任务可以持续跑,适配长周期大模型训练
- 支持跨区域分布式训练:搭配 DiLoCo 技术,在低带宽广域网下跨不同数据中心训练大模型
三、适配的业务场景
- 超大参数基础大模型预训练,需要上万颗 TPU 协同
- MoE 混合专家模型训练,不同专家路由调度
- 大模型 RLHF、DPO 强化学习对齐,多模型流水线联动
- 长周期持续迭代模型,训练任务持续数天乃至数周
- 多模态大模型联合训练,图文音多分支计算任务
四、和同类分布式框架的差异说明
- Ray:任务调度、资源管理层面框架,和 Pathways 不属于同一层级,二者可以搭配使用
- PyTorch Distributed / Megatron-LM:主流 SPMD 同步训练方案,适合规整的数据并行、模型并行,容错弱,单节点故障容易整体崩盘
- Pathways:面向谷歌 TPU+JAX 深度定制,主打异构、异步、长周期、高容错的超大集群训练,生态绑定谷歌云 TPU 体系
五、当前存在的限制与风险清单
- 生态绑定:原生只支持 JAX,PyTorch 生态客户无法直接迁移,适配成本高
- 硬件锁定:只能在谷歌云 TPU 集群上运行,不能直接跑在英伟达 GPU 上
- 定价未公开:谷歌暂未披露 Pathways 单独收费标准,费用主要和 TPU 算力时长挂钩
- 上手门槛:面向前沿大模型研发团队,小模型、小规模训练场景收益不明显
- 技术依赖:底层调度逻辑深度定制,企业自主私有化部署难度很高
【常见问题】
问题 1:谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用,Pathways 之前是用来做什么的?
回答 1:谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用,Pathways 最早是谷歌 DeepMind 自研的内部系统,专门用来训练 Gemini、PaLM 这类旗舰大模型,现在才对外开放给谷歌云客户使用。
问题 2:谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用,Pathways 和普通分布式训练框架最大区别是什么?
回答 2:谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用,传统方案大多是 SPMD 锁步同步,一块芯片坏了全任务停掉;Pathways 是单控制器异步调度,硬件故障自动迁移任务,不容易全盘中断,算力利用率更高。
问题 3:谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用,是不是所有 AI 框架都可以直接跑 Pathways?
回答 3:谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用,它原生适配 JAX 框架,主要面向 TPU 集群,PyTorch 框架不能直接使用,需要额外改造适配。
问题 4:谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用,Pathways 可以在英伟达 GPU 集群上部署吗?
回答 4:谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用,这套系统深度绑定谷歌 TPU 硬件与谷歌云 GKE 环境,暂时不支持英伟达 GPU 集群部署运行。
问题 5:谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用,什么样的团队适合使用 Pathways?
回答 5:谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用,适合需要训练超大参数大模型、MoE 模型、RLHF 强化学习任务,并且采购谷歌云 TPU 算力的 AI 研发团队,小规模训练场景优势不大。
【参考资料】
[2026-11-11](谷歌 AI 训练底座 Pathways 正式开放,大模型分布式训练系统对外开放)品玩
[2026-11-09](谷歌宣布 Pathways 在云端正式全面开放)钛媒体
[2026-11-09](Google opens Pathways, the system that trains Gemini, to Cloud customers)Google Developers Blog
[2026-11-10](Cloud Pathways GA:面向海量 TPU 集群的分布式 ML 运行时)CloudObjectivity
[2026-04-09](谷歌 Cloud Next:TPU Ironwood 同步发布,Pathways 计划对外商用)The Keyword
【免责声明】
本文内容基于谷歌官方博客、科技媒体公开资讯整理,谷歌自研大模型分布式训练底座 Pathways 正式在谷歌云对外开放商用相关能力、适配范围、收费规则以谷歌云官方最新文档为准,该产品存在硬件、框架生态绑定限制,本文不构成云算力采购、大模型研发投入建议。
