高通在 11 月 17 日官宣和 Cirrascale 云服务合作,在 Cirrascale 的 AI 创新云平台开放 Dragonfly AI200 机架级推理加速器,面向选定客户开启评估。客户可以直接把自己的大模型、多模态业务负载放到云端环境跑测试,做性能跑分、压力验证、POC 原型验证,评估达标之后还能直接平滑过渡到生产部署;AI200 是高通专门面向数据中心推理场景打造的飞龙系列加速卡,主打超大内存、低功耗、低整体持有成本,单卡搭载 768GB LPDDR 内存,适配万亿参数大模型推理,搭配液冷机架方案,高通负责硬件和 AI 推理软件栈,Cirrascale 提供托管云基础设施、固定费率计费模式,不收进出流量费,降低企业测试门槛,帮助客户提前验证这套推理硬件能不能承载自身线上 AI 业务。
一、AI200 评估项目基础信息清单
- 合作双方:高通技术公司、Cirrascale Cloud Services
- 评估载体:Cirrascale AI Innovation Cloud(AI 创新云)
- 开放对象:定向邀约的部分企业客户,不是全公开开放
- 评估内容:自有模型负载验证、性能基准测试、并发压力测试、TCO 成本测算、POC 验证
- 计费模式:固定打包费率,无数据流入、流出额外费用
- 产品定位:机架级专用推理加速器,面向 LLM、多模态、Agent、文生图、视频推理场景
- 后续路径:评估通过后可直接落地商用推理集群
二、Dragonfly AI200 硬件核心参数表格
| 项目 | 详细规格 |
|---|---|
| 单卡内存 | 768GB LPDDR5X |
| 单机架配置 | 56 卡,ORv3 液冷标准机架,整机功耗 140kW |
| 机架总内存 | 43TB,内存带宽 0.414PB/s |
| 互联方式 | PCIe Gen6 纵向扩展、RoCE 以太网横向扩展 |
| 散热方案 | 直触液冷,也支持风冷版本 |
| 能力上限 | 支持最高 10T 参数大模型推理,上下文最长 128K |
| 安全特性 | 支持机密计算,保护客户模型与推理数据 |
三、高通和 Cirrascale 分工说明
- 高通侧:提供 Dragonfly AI200 推理加速卡、整套 AI 推理软件套件、框架适配、技术支持,负责硬件与软件栈的持续迭代
- Cirrascale 侧:搭建托管云环境、裸机资源调度、运维保障,提供固定费率的商业方案,简化客户申请和测试流程
- 联合服务:双方一起配合客户做负载分析、性能调优、瓶颈定位,输出评估报告
四、这套评估方案的优势
- 不用自建硬件:客户不用采购整套机架,直接云端试用,前期投入很低
- 模型适配灵活:支持主流 AI 框架,客户可以上传自己的私有大模型、业务推理链路
- 成本透明:一口价模式,不会因为推理流量暴涨产生额外账单
- 推理专项优化:AI200 从底层就是为推理设计,不是通用训练卡,能效和内存对推理更友好
- 部署连贯:测试环境和生产硬件一致,验证完成后可以直接采购机架上线,减少迁移风险
五、适合参与评估的客户类型
- 云厂商、AI 服务服务商,需要大规模推理集群
- 企业内部大模型团队,跑长上下文、多模态、Agent 业务
- 视频、图像生成业务厂商,对推理时延、并发、算力成本敏感
- 算力采购负责人,在对比不同推理加速硬件方案
【相关 FAQ】
问题 1:高通联合 Cirrascale 开放 Dragonfly AI200 推理加速器,客户评估是怎么开展的?
回答 1:客户接入 Cirrascale 的 AI 创新云平台,上传自己的大模型和推理业务负载,在云端的 AI200 集群上跑基准测试、并发压力测试,高通和 Cirrascale 提供技术支持,评估完成后可以直接转向生产部署。
问题 2:高通 Dragonfly AI200 推理加速器,单卡 768GB 内存主要能解决什么推理痛点?
回答 2:超大 LPDDR 内存可以把大模型权重直接放在卡内,不用频繁读写外部存储,适合长上下文、万亿参数大模型推理,减少推理时延,同时相比 HBM 方案,能压低整套推理集群的总体拥有成本。
问题 3:高通携手 Cirrascale 启动 Dragonfly AI200 推理加速器客户评估,普通开发者可以直接申请测试吗?
回答 3:本次评估是定向开放给选定企业客户,不面向普通开发者公开开放,需要联系高通或者 Cirrascale 商务对接,完成资质审核之后,才能拿到 AI 创新云的测试资源。
问题 4:高通 AI200 推理加速器和 Cirrascale 云合作,这个评估模式对比直接采购硬件有什么好处?
回答 4:企业不用提前采购昂贵的液冷机架和加速卡,先在云上验证自家模型的性能、时延、并发承载能力,同时采用固定费率计费、无流量附加费,降低试错成本,验证满意后再采购硬件上线。
【参考资料】
[2026-11-20](高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估)IT 之家
[2026-11-17](Qualcomm and Cirrascale Collaborate to Advance Next-Generation, Energy-Efficient AI Inference)高通官方新闻
[2026-11-18](Qualcomm & Cirrascale open Dragonfly AI200 for tests)DataCentreNews UK
[2026-11-18](Can Qualcomm's Deal With Cirrascale Boost its AI Growth Prospects?)Nasdaq
[2025-10-28](高通发布 AI200 和 AI250,面向机架级 AI 推理)高通中国官网
【免责声明】
本文仅为 AI 算力行业资讯整理,不构成算力采购、商业合作投资建议;Dragonfly AI200 的评估准入、上线时间、商用定价以高通、Cirrascale 双方官方说明为准;模型在 AI200 上的实际性能受模型结构、推理链路、优化程度影响,存在个体差异;评估服务为定向邀约模式,不保证所有申请方都可以获得测试名额。
