AMD 正式推出 ROCm HRX Loom 0.2 版本,这是面向 AMD 异构硬件的部署工具,新版本重点补齐了 GPU 和 NPU 协同调度、模型统一编译、跨硬件推理的相关能力,开发者可以用同一套工作流,把大模型、多模态模型同时部署在 AMD GPU 和内置 NPU 上,不用分别维护两套独立的编译、推理代码;HRX Loom 属于 ROCm 生态的配套组件,目标是屏蔽 GPU 和 NPU 之间的底层差异,自动做模型分片、算子分配、负载调度,适配端侧、边缘、服务器等不同场景,降低异构硬件的开发门槛,相比上一个版本,0.2 版本新增了更多算子支持、优化了 NPU 推理链路,修复了多硬件协同时的调度 bug,方便开发者把模型负载灵活分配给 GPU 或者 NPU,充分发挥两种硬件各自的优势。
开发者选择 AMD ROCm HRX Loom 0.2 做异构部署的核心原因
- 统一开发入口:不用分别学习 GPU、NPU 两套独立开发栈,一套接口就能调度两类硬件。
- 适配混合算力场景:很多新一代 AMD 芯片同时搭载 GPU 和 NPU,适合拆分模型负载并行推理。
- 简化移植成本:模型代码不用大规模改写,工具自动完成算子适配、硬件映射。
- 提升资源利用率:可以自动把轻量算子交给 NPU,重计算算子交给 GPU,优化整体功耗和延迟。
- 融入 ROCm 生态:和 ROCm 编译器、Runtime、模型库打通,兼容已经基于 ROCm 开发的项目。
AMD ROCm HRX Loom 0.2 模型部署落地步骤清单
- 步骤 1:环境准备,安装对应版本 ROCm,部署 HRX Loom 0.2 工具包,匹配硬件驱动版本。
- 步骤 2:模型导入,把 PyTorch、ONNX 格式的模型导入 Loom 工具链。
- 步骤 3:硬件配置,声明可用的 GPU、NPU 设备,设置负载分配策略。
- 步骤 4:模型编译,触发 Loom 的自动编译,算子自动适配 GPU 或 NPU。
- 步骤 5:调度策略配置,选择自动分片或者手动指定哪些子图跑在 NPU、哪些跑在 GPU。
- 步骤 6:功能验证,跑通推理样例,核对输出结果是否和原模型一致。
- 步骤 7:性能调优,测试端到端延迟、吞吐量,调整分片策略,优化功耗。
- 步骤 8:压力稳定性测试,长时间连续推理,验证 GPU 与 NPU 协同调度是否稳定。
- 步骤 9:打包发布,导出部署包,放到边缘设备或者服务器业务流程中使用。
单独硬件部署 vs HRX Loom 异构部署对比表
| 部署方式 | 开发工作量 | 硬件调度 | 适用场景 |
|---|---|---|---|
| 单独 GPU 部署 | 小 | 只使用 GPU 算力 | 大算力 LLM、训练任务 |
| 单独 NPU 部署 | 中等 | 只使用 NPU 算力 | 低功耗轻量推理 |
| ROCm HRX Loom 0.2 异构部署 | 中等 | GPU+NPU 自动协同调度 | 混合算力、边缘端多模态推理 |
赛道整体结论
AMD ROCm HRX Loom 0.2 的发布,是 ROCm 生态往异构算力方向延伸的重要更新,核心目标就是解决 GPU 和 NPU 混合部署难的痛点;这个版本主要是工具链能力迭代,不是新硬件,重点完善算子支持和调度逻辑,让开发者更容易调用 AMD 芯片里的两类算力;但 HRX Loom 目前还处在早期迭代阶段,支持的算子范围、模型类型还有扩充空间,复杂大模型的分片效果,依然需要开发者手动调优,后续版本会持续补齐 NPU 生态短板。
【常见问题】
问题 1:AMD ROCm HRX Loom 0.2,主要用来解决什么问题?
回答 1:AMD ROCm HRX Loom 0.2 用来统一调度 AMD GPU 和 NPU,提供一套开发工作流,实现模型在两类异构硬件上的编译、分片与推理部署。
问题 2:AMD ROCm HRX Loom 0.2 和基础 ROCm 是什么关系?
回答 2:AMD ROCm HRX Loom 0.2 是 ROCm 生态配套的部署工具,依托 ROCm 底层运行时,专门新增 NPU 适配、异构调度相关能力。
问题 3:使用 AMD ROCm HRX Loom 0.2,是不是所有模型都能自动分配给 GPU 和 NPU?
回答 3:AMD ROCm HRX Loom 0.2 支持自动调度,但受当前算子库限制,部分算子还无法跑在 NPU 上,需要开发者评估模型结构。
【参考资料】
[2026-11-12](AMD ROCm HRX Loom 0.2 正式发布,完善 GPU 与 NPU 异构部署)机器之心
[2026-11-08](AMD HRX Loom 异构部署工具技术解读)InfoQ
[2026-11-03](ROCm 生态扩展,NPU 软件栈发展现状)HPC 和 AI 前沿
【免责声明】
以上内容仅为技术资讯解读,不构成开发选型、迁移方案建议;AMD ROCm HRX Loom 0.2 支持的硬件列表、算子范围、兼容性、性能指标,请以 AMD 官方发布文档为准,早期版本工具存在功能迭代、兼容性问题的可能性。
