国产大模型靠低价 Token 出海拿到不少海外开发者订单,表面上调用量涨得很快,但这套生意模式现在遇到一个核心矛盾:收入是按 Token 数量计价,而推理、上下文缓存、KV 缓存这些资源的成本跟着存储容量走,HBM、DRAM 价格持续上涨,AI 智能体还会带来海量 KV 存储占用,最后 Token 出海赚到的收入跑不赢飙升的存储成本,很多模型厂商海外 API 业务看似单量大,实际毛利率持续被挤压,甚至卖越多亏越多。根据门罗风投的报告,美国企业在开源模型上的支出里 89% 流向国内模型,Kimi、DeepSeek、GLM 是主力;但开源模型整体只占美国企业 AI 总支出的 4%,份额看着亮眼,市场盘子本身不大。传统对话 AI 的缓存压力还好,现在 Agent 智能体持续长上下文、多轮工具调用,KV 缓存会一直占用 HBM 和内存,这部分消耗不和 Token 线性挂钩,哪怕生成 Token 不多,也会持续吃掉存储资源。存储这边,三星、SK 海力士优先把产能倾斜到高毛利 HBM,通用 DRAM 供给收缩涨价,AI 服务器整机里存储物料占比持续走高,不再是 GPU 一家占大头。国产模型出海大多走低价策略,靠价格抢海外开发者,很难快速上调 Token 售价,存储成本刚性上涨之后,利润空间直接被压缩。厂商想要稳住盈利,不能只拼 Token 单价,要做 KV 缓存复用、稀疏注意力、上下文压缩、模型蒸馏这些技术优化,同时区分普通对话和 Agent 场景做差异化定价。
一、传统 Token 生意和 Agent 场景成本对比
| 业务场景 | 计费方式 | 资源消耗特点 | 存储压力 | 盈利难度 |
|---|---|---|---|---|
| 普通对话 API | 按输入 + 输出 Token 计费 | 调用结束缓存快速释放 | 低 | 可控 |
| Agent 智能体任务 | 按 Token 计费 | 长上下文、多轮工具调用,KV 缓存长期驻留 HBM | 极高 | 很难盈利 |
二、Token 出海存储成本上涨的核心原因清单
- 计费错配:收入按 Token 算,KV 缓存、上下文状态占用按 GB 存储算,两者不成正比
- HBM、DRAM 涨价周期:存储原厂产能向 HBM 倾斜,通用内存供给收紧,采购价上行
- Agent 类应用爆发:单任务 KV 缓存占用远高于普通对话,拉高单位请求存储开销
- 出海低价内卷:国产模型海外 API 普遍低价抢量,调价空间有限
- 海外部署成本叠加:海外机房、跨境带宽、合规节点都会抬高存储部署开销
三、厂商缓解 Token 出海存储压力的实操方向
- 优化 KV 缓存策略:缓存池复用、淘汰冷门上下文、量化 KV,降低 HBM 占用
- 区分场景定价:普通对话维持原有价格,长上下文、Agent 高缓存场景单独加价
- 模型轻量化:蒸馏、MoE 稀疏激活,减少推理时常驻内存参数
- 混合部署:热点请求放 HBM,冷上下文下沉到普通 DRAM/NAND 存储
- 限制默认上下文窗口,给用户提供长上下文付费增值选项
- 调整海外节点布局,选择存储性价比更好的海外机房
四、Token 出海模式接下来的行业变化
单纯靠低价走量卖 Token 的出海路子会越来越难跑通,海外开发者会慢慢接受分层定价;存储成本会变成大模型 API 厂商的核心竞争指标,缓存优化、推理调度能力会拉开不同厂商的盈利差距;一部分厂商会收缩低价海外流量,优先做高价值企业客户,放弃低毛利散客流量。
【常见问题】
问题 1:Token 出海赚的钱跟不上飙升的存储成本,核心矛盾是什么?
回答 1:Token 出海收入按词元数量计费,但是 KV 缓存、上下文状态的开销按存储容量 GB 计算,Agent 场景会持续占用大量 HBM 内存,存储涨价叠加低价内卷,Token 出海收入很难覆盖存储成本。
问题 2:Token 出海的存储成本压力,主要来自 HBM 还是普通 NAND 硬盘?
回答 2:主要来自 HBM 和 DRAM,KV 缓存推理阶段必须放在高速内存里,这一轮存储涨价 HBM、DRAM 涨幅明显,NAND 对推理缓存的缓解有限。
问题 3:国产大模型 Token 出海调用量很高,为什么利润反而不好?
回答 3:Token 出海是低价抢海外开发者流量,而且 Agent 调用会带来不成比例的存储开销,调用量上涨的同时存储成本上涨更快,所以 Token 出海单量好看但毛利承压。
问题 4:厂商怎么降低 Token 出海业务里的存储开销?
回答 4:厂商可以做 KV 缓存复用、KV 量化、上下文压缩,对 Agent 等高缓存场景单独定价,也可以用冷热分层存储,缓解 Token 出海面对的存储成本上涨压力。
【参考资料】
[2026-11-13](Token 出海赚的钱,跟不上飙升的存储成本了)36 氪
[2026-11-13](Menlo Ventures 2026 企业 AI 现状报告)Menlo Ventures
[2026-08-25](AI 算力通胀时代:英伟达服务器涨价超 15%)钛媒体
[2026-06-10](HBM 涨价对大模型推理成本影响分析)新浪财经
[2026-03-19](“龙虾” 狂吃 Token,云涨价账单来了)新浪财经
【免责声明】
本内容仅为 Token 出海和 AI 存储成本相关公开行业信息整理,不构成投资、采购或者 API 定价建议;存储芯片价格、海外 API 定价、模型推理优化方案持续变动,厂商实际盈利情况受技术方案、客户结构、机房部署多重因素影响,请以企业官方披露为准。
