TPU仅需0.181美元,B200为0.222美元,B300则高达0.276美元。
今年4月,黄仁勋在Dwarkesh播客上宣称TPU与Trainium都不敢来跑分。黄仁勋的三次断言在那期播客中,黄仁勋对TPU的战略藐视可以归结为三次断言。若将中位响应时间卡在20秒,TPU成本为0.098美元,B200是0.106美元,B300则飙升至0.132美元。谷歌内部TCO口径第三句,他断定Anthropic只是特例,失去Anthropic的支撑TPU将彻底丧失增长引擎。这项断言目前仅维持了表面上的成立。到2029年它将超越DeepMind成为全球最大的TPU单一用户。但另一半断言正在迅速失效。第一是KVCache页数翻倍,大幅削减首Token延迟。现在,谷歌将Token转移至128Lane的维度,可用KV页从5141暴涨至10283。填平生态护城河的代码级颠覆这次更新最颠覆的地方在于,谷歌只是动了动软件。
