您的位置首页 >机器人 >

海外算力通道收紧,众智 FlagOS 联手清昴智能落地国芯商用 Token 工厂

海外算力通道持续收窄,国内企业很难再稳定调用海外远程 AI 算力,众智 FlagOS 和清昴智能正式合作推出基于国产芯片的商用 Token 工厂方案,在 11 月 17 日清昴 AI 伙伴大会上对外发布,这套方案依靠 FlagOS 统一 AI 软件栈,解决国产芯片型号杂、指令不互通、模型适配成本高的痛点,把存量和新增国产算力集群的 Token 吞吐效率拉到商用可用水平,能够承接大模型推理、Agent 长上下文这类真实线上业务,打造自主可控的本土 Token 供给能力。

海外算力通道收窄带来的产业压力

新的出口管制规则不光限制芯片实物,还封堵国内企业访问海外云端算力的通道,大量依赖海外算力的业务被迫转向国产算力。但国产算力集群有个现实难题:不同国芯架构不一样、软件栈互不兼容,单独给每款芯片调模型、写算子成本极高;就算硬件到位,Prefill、Decode 阶段显存带宽、缓存调度没做好,芯片跑不满,Token 产出上不去,没法满足商业化盈利要求。行业急需一套统一底座,让多款国产芯片可以共用一套推理方案。

众智 FlagOS × 清昴智能 Token 工厂落地流程

  1. 集群准备:接入昇腾、寒武纪、海光、沐曦等兼容 FlagOS 的国产 AI 芯片,完成硬件集群组网;
  2. 部署 FlagOS 底座:部署 FlagOS 2.2 版本,加载 FlagGems 算子库、FlagTree 统一编译器;
  3. 清昴智能 MLGuider 调优:自动完成模型量化、KV 缓存优化、算子融合、分布式调度;
  4. 业务接入:接入 MoE 大模型、长上下文 Agent 业务,压测 Token 吞吐、时延指标;
  5. 上线商用:对外提供稳定的 Token 推理服务,持续动态调度算力,提升卡均产出。

方案核心能力清单

模块能力说明
众智 FlagOS开源统一 AI 软件栈,支持 21 家芯片厂商、32 款 AI 芯片,一次开发跨芯迁移,内置 1454 个通用算子
清昴智能 MLGuider自动化推理调优引擎,压缩算子调优周期,优化 KV 缓存、Prefill/Decode 调度
国芯 Token 工厂多国产芯片混合集群,面向线上业务输出稳定 Token,支持百万级长上下文、MoE 模型
生态价值降低国产算力适配成本,不用为每一款芯片单独开发整套推理栈

整体来看,这次合作核心是应对海外算力受限的风险,用 FlagOS 的跨芯适配能力搭配清昴智能的推理工程优化,把国产算力从 “能跑模型” 升级到 “稳定商用产出 Token”,给国内大模型服务商提供一条自主可控的算力替代路线。

【常见问题】

问题 1:众智 FlagOS 和清昴智能打造的国芯 Token 工厂,主要是为了解决海外算力通道收窄的什么问题?

回答 1:海外算力通道收窄之后国内企业难以使用海外远程算力,众智 FlagOS 和清昴智能打造国芯 Token 工厂,依托国产芯片集群和统一软件栈,自主产出商用 Token,替代海外算力,规避算力访问限制。

问题 2:众智 FlagOS 在这套国芯商用 Token 工厂里面起到什么作用?

回答 2:众智 FlagOS 是统一开源 AI 软件栈,在国芯商用 Token 工厂里负责屏蔽不同国产芯片架构差异,提供通用算子和编译器,实现模型一次开发、多国产芯片快速迁移适配。

问题 3:国芯 Token 工厂支持哪些国产芯片?

回答 3:国芯 Token 工厂依托众智 FlagOS,支持昇腾、寒武纪、海光、沐曦等 21 家厂商、32 款国产 AI 芯片,可搭建异构混合算力集群。

问题 4:清昴智能给国芯 Token 工厂提供哪些优化能力?

回答 4:清昴智能提供 MLGuider 自动化推理优化引擎,针对长上下文、MoE 场景做 KV 缓存、Prefill 和 Decode 调度优化,提升国芯 Token 工厂的 Token 吞吐,降低推理时延。

【参考资料】

[2026-11-18](海外算力通道收窄!众智 FlagOS × 清昴智能,助力国芯高性能上线商用 Token 工厂)猎云网

[2026-11-18](当 “Token 工厂” 进入国芯时代:大模型商业化竞争悄然移向芯片)中国网科技

[2026-11-18](当 “Token 工厂” 进入国芯时代:大模型商业化竞争悄然移向芯片)环球网科技

[2026-10-20](从多芯适配到跨芯迭代优化:智源众智 FlagOS 2.2 让前沿模型与多元算力协同演进)智源社区

【免责声明】

本文为行业资讯整理,国芯 Token 工厂的实际吞吐性能、兼容芯片范围、业务承载上限受硬件型号、模型参数、集群规模影响;众智 FlagOS 为开源项目,清昴智能方案商用效果以双方官方实测和落地版本为准,不构成算力采购、模型部署的落地承诺。

今日大家都在搜的词: