英特尔王稚聪在行业交流中提出判断,接下来五年算力分配格局会明显变化,不再把绝大多数算力堆在云端训练集群,更多算力资源会部署在推理侧以及边缘侧,这也是 AI 从集中训练走向落地应用阶段一个很关键的转向,核心是为了降低延迟、节省带宽开销,同时满足本地数据不出域的需求。现在很多大模型的使用痛点集中在云端调用:网络波动带来响应慢、大批量请求拉高带宽成本,还有工业、车载、安防场景的数据合规要求,不方便全部传回云端;随着模型轻量化、小参数模型、NPU 硬件成熟,边缘设备已经具备承载推理任务的条件。这条算力迁移路线一般会先把简单、高频的推理任务下沉到边缘节点,复杂任务依旧回传云端大模型,再慢慢迭代硬件和模型,逐步扩大边缘可承接的任务范围。这个趋势不等于云端算力不再增长,而是推理侧、边缘侧的增速会显著高于云端训练算力,整个算力市场结构会重新划分。
算力部署趋势核心信息清单
- 核心观点:未来五年,推理侧、边缘侧算力占比持续抬升
- 发言主体:英特尔王稚聪
- 主要承载任务:模型推理、本地感知、实时决策、轻量多模态任务
- 配套支撑:边缘 NPU、CPU 内置 AI 加速、轻量化模型、本地 Agent
- 受益场景:工业产线、车载、智能摄像头、本地机器人、企业私有化节点
- 不变的部分:超大规模模型训练仍然高度依赖云端高性能集群
云端训练、云端推理、边缘推理对比
| 算力位置 | 典型用途 | 延迟 | 带宽压力 | 数据隐私特点 |
|---|---|---|---|---|
| 云端训练 | 大模型预训练、微调 | 无实时要求 | 极高 | 集中处理 |
| 云端推理 | 复杂长文本、大模型全能力调用 | 中等,受网络影响 | 较高 | 数据上传云端 |
| 边缘侧推理 | 实时检测、本地交互、轻量化模型 | 低,本地运行 | 很低,数据就地处理 | 数据可不出本地 |
算力往推理侧、边缘侧倾斜的驱动因素
- 时延需求:自动驾驶、工业检测、机器人控制,必须做到毫秒级响应
- 带宽成本:海量视频、传感器数据全部上云,流量费用难以承受
- 数据合规:很多行业要求原始数据不能出境、不能出内网
- 硬件成熟:新一代 CPU、专用边缘芯片量产,推理性价比持续提升
- 应用形态变化:本地 AI Agent、离线智能应用需求持续增加
【常见问题】
问题 1:英特尔王稚聪所说未来五年更多算力部署在推理侧及边缘侧,是不是云端算力会萎缩?
回答 1:英特尔王稚聪这个判断不是说云端算力萎缩,而是推理侧、边缘侧算力增长速度更快,训练、超复杂任务依然离不开云端大集群。
问题 2:算力部署到推理侧及边缘侧,相比云端推理最核心优势是什么?
回答 2:算力部署在推理侧及边缘侧,最核心优势是延迟更低、不用持续传输大量原始数据,更容易满足实时业务和本地数据隔离的要求。
问题 3:按照英特尔王稚聪的观点,适合部署推理侧、边缘侧算力的场景有哪些?
回答 3:适合部署推理侧、边缘侧算力的场景主要包括工业质检、车载智能、安防感知、本地机器人、企业内网私有化 AI 应用等对实时性、数据安全敏感的场景。
问题 4:要实现更多算力部署在推理侧及边缘侧,还需要解决哪些卡点?
回答 4:想要落地更多算力部署在推理侧及边缘侧,需要解决轻量化模型优化、边缘芯片统一生态、跨节点调度、功耗控制以及多设备协同推理等问题。
【数据来源】
[2026-11-07](英特尔王稚聪:未来五年更多算力将部署在推理侧及边缘侧)机器之心
[2026-11-07](英特尔王稚聪谈算力格局:边缘与推理算力迎来增长窗口)芯东西
[2026-11-06](行业访谈:AI 算力从云端训练走向边缘推理)36 氪
[2026-11-06](边缘推理算力爆发的底层逻辑与硬件机会)半导体行业观察
【免责声明】
以上英特尔王稚聪关于未来五年算力向推理侧、边缘侧部署的内容来自公开行业访谈,属于产业趋势预判,不代表最终市场结果;算力分配节奏还受模型技术、芯片成本、行业政策影响,内容仅作为行业资讯参考,不构成投资决策依据。
