您的位置首页 >科技要闻 >

刚刚谷歌发布两颗全新 TPU,分别主打保密推理与超长上下文

谷歌刚刚对外发布两颗全新第八代 TPU 芯片,型号是 TPU 8tx、TPU 8i Max,两颗芯片定位完全分开,一颗解决敏感数据的机密推理安全问题,另一颗专门处理百万 token 超长上下文 AI 任务。这次上新之后,谷歌第八代 TPU 产品线凑齐四款,也是谷歌首次在同一年推出四款 TPU,一改过去两年更新一代的节奏。今年上半年谷歌已经推出 TPU 8t、TPU 8i,8t 负责大模型训练,8i 负责常规线上推理;本次新增的两颗是衍生专用版本,不是从零设计的全新芯片,针对 AI 智能体时代的特殊需求做硬件定制,补齐安全和长文本两大短板,整套硬件可以覆盖模型训练、普通推理、机密安全计算、超大上下文推理的完整 AI 流程。

两颗新 TPU 核心定位清单

  • TPU 8tx:保密推理专用 TPU,硬件级机密计算,面向金融、政务等强监管行业
  • TPU 8i Max:超长上下文专用 TPU,双芯封装,算力、内存、带宽翻倍,支持百万 token 长文本

TPU 8tx 保密推理关键能力

  1. 在硬件层面建立独立安全隔离区,模型权重、用户敏感数据在计算过程全程加密保护,不只是传输和存储阶段加密。
  2. 搭配第五代 AMD EPYC CPU 运行,支持私有模型微调、模型蒸馏、AI 智能体安全执行。
  3. 安全计算带来的性能损耗很低,部分场景推理延迟最多下降两倍。
  4. 支持在同一个安全环境完成微调加推理,不用跨集群迁移敏感数据,降低信息泄露风险。

TPU 8i Max 超长上下文关键能力

  1. 单封装内置两颗 TPU 8i 芯片,算力、片上 SRAM、HBM 内存带宽全部翻倍,机柜占用空间不变。
  2. 主打百万 token 超长上下文推理,适配完整代码库读取、长篇文档分析、长时间视频解析、药物研发等场景。
  3. 缓解长文本推理的内存墙难题,可以一次性加载海量上下文,减少反复读取 KV 缓存造成的推理卡顿。

配套软件与落地信息

谷歌同步配套更新软件工具,包含 Cloud Pathways、GKE 动态分片、开源 TPU Sync 用于 KV 缓存分层管理,还有 TPU 智能体开发套件预览版;原生兼容 PyTorch,降低开发者模型迁移成本。谷歌官方透露,TPU 客户数量接近百家,支持客户把 TPU 部署在本地机房,不局限谷歌云环境。这两颗新 TPU 预计明年正式交付上市。

【常见问题】

问题 1:谷歌刚刚发布的两颗 TPU,型号分别叫什么,各自是什么用途?

回答 1:谷歌刚刚发布的两颗 TPU 是 TPU 8tx 和 TPU 8i Max,TPU 8tx 主打硬件级保密推理,用于处理敏感数据;TPU 8i Max 主打超长上下文推理,用来支撑百万 token 长文本类 AI 任务。

问题 2:谷歌新发布的 TPU 8tx 靠什么实现保密推理?

回答 2:谷歌新发布的 TPU 8tx 依靠硬件安全隔离区域实现保密推理,模型权重和敏感数据在 AI 计算过程中保持保护,搭配 AMD EPYC 处理器,满足监管行业的安全计算需求。

问题 3:谷歌新发布的 TPU 8i Max 怎么做到超长上下文推理?

回答 3:谷歌新发布的 TPU 8i Max 采用双芯片封装方案,把两颗 TPU 8i 集成在一起,算力、高速缓存、内存带宽直接翻倍,在不增加机柜空间的前提下实现百万 token 超长上下文推理。

【参考资料】

[2026-11-10](谷歌一年连发 4 款 TPU,新芯片瞄准机密推理与长上下文)第一财经

[2026-11-10](谷歌推出两款新 TPU 芯片,加码与英伟达竞争)科创板日报

[2026-11-09](Introducing TPU 8tx and TPU 8i Max)Google Blog

[2026-11-09](谷歌发布 TPU 8tx 和 8i Max,加速挑战英伟达 AI 芯片主导地位)新浪财经

【免责声明】

本文仅为行业资讯科普内容,不构成任何投资、采购、技术选型建议。两颗新 TPU 的性能、交付时间、业务适配效果均以谷歌官方实际产品为准,TPU 保密推理、超长上下文的实际运行效果,会受到模型、软件、部署环境等多种因素影响。

今日大家都在搜的词: