您的位置首页 >人工智能 >

谷歌单行代码破局CUDA生态,英伟达技术护城河面临考验

TPU仅需0.181美元,B200为0.222美元,B300则高达0.276美元。

今年4月,黄仁勋在Dwarkesh播客上宣称TPU与Trainium都不敢来跑分。黄仁勋的三次断言在那期播客中,黄仁勋对TPU的战略藐视可以归结为三次断言。若将中位响应时间卡在20秒,TPU成本为0.098美元,B200是0.106美元,B300则飙升至0.132美元。谷歌内部TCO口径第三句,他断定Anthropic只是特例,失去Anthropic的支撑TPU将彻底丧失增长引擎。这项断言目前仅维持了表面上的成立。到2029年它将超越DeepMind成为全球最大的TPU单一用户。但另一半断言正在迅速失效。第一是KVCache页数翻倍,大幅削减首Token延迟。现在,谷歌将Token转移至128Lane的维度,可用KV页从5141暴涨至10283。填平生态护城河的代码级颠覆这次更新最颠覆的地方在于,谷歌只是动了动软件。

免责声明:本文由用户上传,与本网站立场无关,如有侵权请联系删除!财经信息仅供读者参考,并不构成投资建议,投资者据此操作,风险自担。

今日大家都在搜的词: