您的位置首页 >科技要闻 >

高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估

高通在 11 月 17 日官宣和 Cirrascale 云服务合作,在 Cirrascale 的 AI 创新云平台开放 Dragonfly AI200 机架级推理加速器,面向选定客户开启评估。客户可以直接把自己的大模型、多模态业务负载放到云端环境跑测试,做性能跑分、压力验证、POC 原型验证,评估达标之后还能直接平滑过渡到生产部署;AI200 是高通专门面向数据中心推理场景打造的飞龙系列加速卡,主打超大内存、低功耗、低整体持有成本,单卡搭载 768GB LPDDR 内存,适配万亿参数大模型推理,搭配液冷机架方案,高通负责硬件和 AI 推理软件栈,Cirrascale 提供托管云基础设施、固定费率计费模式,不收进出流量费,降低企业测试门槛,帮助客户提前验证这套推理硬件能不能承载自身线上 AI 业务。

一、AI200 评估项目基础信息清单

  1. 合作双方:高通技术公司、Cirrascale Cloud Services
  2. 评估载体:Cirrascale AI Innovation Cloud(AI 创新云)
  3. 开放对象:定向邀约的部分企业客户,不是全公开开放
  4. 评估内容:自有模型负载验证、性能基准测试、并发压力测试、TCO 成本测算、POC 验证
  5. 计费模式:固定打包费率,无数据流入、流出额外费用
  6. 产品定位:机架级专用推理加速器,面向 LLM、多模态、Agent、文生图、视频推理场景
  7. 后续路径:评估通过后可直接落地商用推理集群

二、Dragonfly AI200 硬件核心参数表格

项目详细规格
单卡内存768GB LPDDR5X
单机架配置56 卡,ORv3 液冷标准机架,整机功耗 140kW
机架总内存43TB,内存带宽 0.414PB/s
互联方式PCIe Gen6 纵向扩展、RoCE 以太网横向扩展
散热方案直触液冷,也支持风冷版本
能力上限支持最高 10T 参数大模型推理,上下文最长 128K
安全特性支持机密计算,保护客户模型与推理数据

三、高通和 Cirrascale 分工说明

  1. 高通侧:提供 Dragonfly AI200 推理加速卡、整套 AI 推理软件套件、框架适配、技术支持,负责硬件与软件栈的持续迭代
  2. Cirrascale 侧:搭建托管云环境、裸机资源调度、运维保障,提供固定费率的商业方案,简化客户申请和测试流程
  3. 联合服务:双方一起配合客户做负载分析、性能调优、瓶颈定位,输出评估报告

四、这套评估方案的优势

  1. 不用自建硬件:客户不用采购整套机架,直接云端试用,前期投入很低
  2. 模型适配灵活:支持主流 AI 框架,客户可以上传自己的私有大模型、业务推理链路
  3. 成本透明:一口价模式,不会因为推理流量暴涨产生额外账单
  4. 推理专项优化:AI200 从底层就是为推理设计,不是通用训练卡,能效和内存对推理更友好
  5. 部署连贯:测试环境和生产硬件一致,验证完成后可以直接采购机架上线,减少迁移风险

五、适合参与评估的客户类型

  • 云厂商、AI 服务服务商,需要大规模推理集群
  • 企业内部大模型团队,跑长上下文、多模态、Agent 业务
  • 视频、图像生成业务厂商,对推理时延、并发、算力成本敏感
  • 算力采购负责人,在对比不同推理加速硬件方案

【相关 FAQ】

问题 1:高通联合 Cirrascale 开放 Dragonfly AI200 推理加速器,客户评估是怎么开展的?

回答 1:客户接入 Cirrascale 的 AI 创新云平台,上传自己的大模型和推理业务负载,在云端的 AI200 集群上跑基准测试、并发压力测试,高通和 Cirrascale 提供技术支持,评估完成后可以直接转向生产部署。

问题 2:高通 Dragonfly AI200 推理加速器,单卡 768GB 内存主要能解决什么推理痛点?

回答 2:超大 LPDDR 内存可以把大模型权重直接放在卡内,不用频繁读写外部存储,适合长上下文、万亿参数大模型推理,减少推理时延,同时相比 HBM 方案,能压低整套推理集群的总体拥有成本。

问题 3:高通携手 Cirrascale 启动 Dragonfly AI200 推理加速器客户评估,普通开发者可以直接申请测试吗?

回答 3:本次评估是定向开放给选定企业客户,不面向普通开发者公开开放,需要联系高通或者 Cirrascale 商务对接,完成资质审核之后,才能拿到 AI 创新云的测试资源。

问题 4:高通 AI200 推理加速器和 Cirrascale 云合作,这个评估模式对比直接采购硬件有什么好处?

回答 4:企业不用提前采购昂贵的液冷机架和加速卡,先在云上验证自家模型的性能、时延、并发承载能力,同时采用固定费率计费、无流量附加费,降低试错成本,验证满意后再采购硬件上线。

【参考资料】

[2026-11-20](高通携手 Cirrascale,启动自家推理加速器 AI200 客户评估)IT 之家

[2026-11-17](Qualcomm and Cirrascale Collaborate to Advance Next-Generation, Energy-Efficient AI Inference)高通官方新闻

[2026-11-18](Qualcomm & Cirrascale open Dragonfly AI200 for tests)DataCentreNews UK

[2026-11-18](Can Qualcomm's Deal With Cirrascale Boost its AI Growth Prospects?)Nasdaq

[2025-10-28](高通发布 AI200 和 AI250,面向机架级 AI 推理)高通中国官网

【免责声明】

本文仅为 AI 算力行业资讯整理,不构成算力采购、商业合作投资建议;Dragonfly AI200 的评估准入、上线时间、商用定价以高通、Cirrascale 双方官方说明为准;模型在 AI200 上的实际性能受模型结构、推理链路、优化程度影响,存在个体差异;评估服务为定向邀约模式,不保证所有申请方都可以获得测试名额。

今日大家都在搜的词: