硅基流动创始人袁进辉在第十七届财新峰会上分享产业判断，AI 算力分成训练算力和推理算力两大块，推理环节的 Token 消耗没有上限，长期来看推理算力总需求会远远超过训练算力，推理赛道准入门槛相比训练赛道更低，不管是老牌芯片厂商还是新入局玩家，在这里都存在很大机会，这个判断也点明 AI 产业重心正在从模型训练，慢慢转向面向各类应用的推理落地。袁进辉解释，训练一个高质量大模型，Token 总量基本有上限，大致在一百万亿 Token 这个量级；但推理是用户持续调用模型、完成问答、工具调用、智能任务，只要 AI 能持续落地到各行各业改善业务、生活体验，调用量就会持续上涨，现在已经有不少企业单日推理 Token 消耗就突破一百万亿，需求还在持续扩张。他还提到 AI 的发展阶段已经变化，早些年大家重点比拼模型能不能流畅对话，现在更多场景要求 AI 直接帮人办事，这类 Agent 式应用会进一步拉高推理算力消耗。对比训练芯片，推理芯片不用极致追求超大芯片规模、极高的峰值算力，更看重单 Token 成本、功耗、显存调度、并发吞吐，优化方向更多元，国产芯片、新芯片企业更容易找到细分场景切入；同时他也提到国内开源模型还在追赶闭源模型，开源路线在推理部署、数据安全、定制改造上具备独特优势。硅基流动自身定位是 Token 工厂，不自研大模型、不造芯片，做异构算力调度和推理引擎适配，把不同品牌芯片的算力转化成稳定对外输出的 Token 服务，刚好承接这条推理算力增长主线。
一、袁进辉本次发言核心信息清单
| 项目 | 详情 | 备注 |
|---|---|---|
| 发言场合 | 第十七届财新峰会，主题 “以发展应变局” | 发言时间 2026 年 11 月 12 日 |
| 核心区分 | 训练算力：Token 总量存在上限；推理算力：Token 消耗无上限 | 推理总需求未来会大于训练 |
| 当前现状 | 部分企业单日推理 Token 用量已经超过 100 万亿 | 还在持续增长 |
| 赛道门槛对比 | 训练芯片壁垒高、投入巨大；推理芯片切入难度更低 | 新玩家机会更大 |
| AI 阶段变化 | 从对话能力，转向 Agent 办事能力 | 进一步拉动推理算力需求 |
| 模型路线观点 | 国内开源模型能力仍在追赶闭源，开源部署优势明显 | 适合企业私有化推理场景 |
| 硅基流动定位 | Token 工厂，异构算力推理基础设施服务商 | 适配多品牌国产、海外芯片 |
二、训练算力与推理算力差异对比
- 训练算力：一次性投入，目标是把模型权重训练收敛，总 Token 规模可控，追求 FP16、BF16 峰值算力、超大显存互联，适合少数头部大厂，芯片研发、集群建设门槛极高。
- 推理算力：永续持续消耗，每一次用户提问、工具调用、图片视频生成都要消耗 Token，追求高并发、低延迟、低单 Token 成本、功耗可控，场景分散，适合差异化芯片方案。
三、推理赛道为什么给芯片新玩家留出机会
- 指标多元：客户不只看峰值算力，延迟、吞吐、功耗、BOM 成本、软件适配都是选型标准，单一指标不强的芯片也能找到匹配场景。
- 场景丰富：AI 客服、本地终端推理、行业 Agent、图像视频生成、私有化企业部署，不同场景对芯片规格需求不一样。
- 软件生态可共建：像硅基流动这类推理引擎厂商，可以完成算子适配、调度优化，降低芯片厂商单独做全套软件栈的压力。
- 增量持续释放：千行百业数字化、Agent 普及，推理需求是长期持续扩容，不是一次性建设。
四、推理算力增长带来的产业链连锁变化
- 算力采购重心转移：云厂商、MaaS 厂商预算逐步向推理集群倾斜，不再只聚焦训练大集群。
- 芯片分层化：高端推理卡、边缘低功耗推理芯片、专用 ASIC 推理芯片各自抢占对应市场。
- 基础设施价值上升：推理调度、显存复用、KV 缓存优化、异构算力管理软件的商业价值提升。
- 国产芯片窗口期：推理赛道更容易通过场景落地完成验证，积累案例，反向完善芯片迭代。
五、这条趋势里面的现实约束
- 推理芯片比拼的不只是硬件，配套推理引擎、算子库、稳定性、长期技术支持同样关键。
- 需求虽然没有上限，但客户对 Token 定价非常敏感，成本控制是长期竞争的核心。
- 流量存在波峰波谷，单纯堆硬件容易造成算力闲置，弹性调度能力必不可少。
【常见问题】
问题 1：硅基流动创始人袁进辉解读 AI 算力，推理算力需求没有上限，芯片厂商迎来发展机遇，袁进辉为什么说推理所需算力没有上限？
回答 1：硅基流动创始人袁进辉解读 AI 算力，推理算力需求没有上限，芯片厂商迎来发展机遇，因为训练模型的 Token 总量有上限，而推理来自用户持续调用，AI 落地场景越多、Agent 类应用越普及，Token 消耗就会持续上涨，不存在明确天花板，不少企业单日推理 Token 消耗已经突破百万亿级别。
问题 2：硅基流动创始人袁进辉解读 AI 算力，推理算力需求没有上限，芯片厂商迎来发展机遇，为什么推理赛道对于芯片企业机会更大？
回答 2：硅基流动创始人袁进辉解读 AI 算力，推理算力需求没有上限，芯片厂商迎来发展机遇，推理芯片不像训练芯片对峰值算力、集群互联要求极端苛刻，评价指标更多元，场景分散，软件层面可以由推理基础设施厂商协同适配，新玩家切入难度更低。
问题 3：硅基流动创始人袁进辉解读 AI 算力，推理算力需求没有上限，芯片厂商迎来发展机遇，硅基流动在这条推理算力产业链里扮演什么角色？
回答 3：硅基流动创始人袁进辉解读 AI 算力，推理算力需求没有上限，芯片厂商迎来发展机遇，硅基流动定位 Token 工厂，不造芯片、不做基础大模型，做异构算力调度和推理引擎适配，把多款不同芯片的算力转化成稳定可对外交付的 Token 推理服务。
【参考资料】
[2026-11-12]（硅基流动创始人袁进辉：推理所需算力没有上限，芯片企业有很大机会）新浪财经
[2026-11-12]（财新峰会｜袁进辉：AI 进入 Agent 时代，推理算力需求持续爆发）财新网
[2026-04-02]（袁进辉出席 2026 中关村论坛：做 AI 世界的 Token 工厂）硅基流动官网
[2026-06-18]（深耕 “Token 工厂”，硅基流动完成新一轮超 20 亿元融资）新浪财经
【免责声明】
本文仅整理财新峰会现场发言和公开产业报道内容，不构成芯片投资、算力采购、创业方向的任何建议。袁进辉观点属于产业预判，推理算力需求增长节奏、芯片商业化落地效果会受模型迭代、价格竞争、行业政策等因素影响，产业实际进展请以企业财报、官方公告为准。