AMD 在 11 月 19 日官宣和 Unsloth 达成合作,给 Unsloth Desktop 加上 XDNA 2 NPU 本地推理能力,现在搭载这套 NPU 的锐龙 AI 电脑,能够直接跑本地智能体模型,对接超过 100 款智能体应用,这套方案靠 Lemonade、FastFlowLM 推理框架做底层调度,搭配兼容 OpenAI 标准的 API 接口,软件不用单独改造适配就能调用 NPU 算力,NPU 的功耗比 GPU 低很多,跑 AI 智能体的时候不会占用显卡资源,显卡可以继续用来渲染、游戏,想要体验的用户需要先确认自己的处理器是带 XDNA 2 架构 NPU 的锐龙 AI 系列,装好 Unsloth Desktop 之后,在模型列表里选择 NPU 版本模型,开启运行就可以接入各类智能体工具。
一、合作方案核心链路
- 上层:各类智能体应用,通过 Unsloth Desktop 的 API 发送请求
- 中间层:Lemonade + FastFlowLM(FLM),负责模型调度、推理转发
- 底层:AMD XDNA 2 NPU,承担模型本地推理计算
- 接口标准:OpenAI 兼容 API,降低应用接入成本
二、支持硬件清单
| 硬件系列 | 架构 | 备注 |
|---|---|---|
| 锐龙 AI 300(Strix Point、Krackan Point) | XDNA 2 | 主流笔记本型号 |
| 锐龙 AI Max(Strix Halo) | XDNA 2 | 高性能本 |
| 锐龙 AI 400(Gorgon Point) | XDNA 2 | 新一代平台 |
三、已经适配的代表性智能体应用清单
- Hermes Agent
- OpenClaw
- Open WebUI
- Cline
- LangChain
- GitHub Copilot
- VS Code 相关 AI 助手
四、这套 NPU 本地推理的优势和限制
✅ 优势
- 能效更高:单 token 生成功耗是 GPU 的 1/2~1/4,长时间跑智能体更省电
- 算力隔离:NPU 独立跑 AI 推理,GPU、CPU 资源保留给其他任务
- 本地运行:数据不出电脑,适合隐私敏感的文档问答、本地代码智能体
- 接入简单:通用 API,不用每款智能体单独开发 NPU 驱动
⚠️ 限制
- 只支持 XDNA 2 架构 NPU,老款 XDNA 一代 NPU 无法使用
- 不是所有大模型都适配,需要选择 NPU 专用量化版本
- 推理速度上限受 NPU 本身算力约束,不适合超大参数模型高速推理
【相关 FAQ】
问题 1:AMD 联合 Unsloth 开放 NPU 本地推理,是什么意思?
回答 1:AMD 联合 Unsloth 开放 NPU 本地推理,就是给 Unsloth Desktop 增加 XDNA 2 NPU 加速能力,电脑内置 NPU 可以直接跑智能体大模型,不用依赖云端或者显卡,并且支持百余款智能体应用调用这个本地推理能力。
问题 2:想体验 AMD 和 Unsloth 的 NPU 本地推理,需要什么电脑?
回答 2:想体验 AMD 和 Unsloth 的 NPU 本地推理,电脑必须搭载 XDNA 2 架构 NPU,也就是锐龙 AI 300、锐龙 AI Max、锐龙 AI 400 系列处理器,老款不带 XDNA 2 NPU 的 AMD 设备无法使用该功能。
问题 3:AMD Unsloth 这套 NPU 本地推理,对比 GPU 跑本地智能体有什么好处?
回答 3:AMD Unsloth 这套 NPU 本地推理能效更好,耗电更低,而且 NPU 独立工作,不会占用显卡显存和算力,你一边跑本地智能体,显卡还能继续做视频渲染、游戏这类任务,适合长时间挂智能体工作流。
【参考资料】
[2026-11-20](AMD 发布 Unsloth Desktop NPU 支持:XDNA 2 接管本地智能体推理)新浪财经
[2026-11-19](AMD and Unsloth Bring NPU Support to 100+ Agentic AI Apps)AMD 新闻稿
[2026-11-19](AMD x Unsloth: Unlocking the World's First NPU for Unsloth Desktop)AMD 官方博客
【免责声明】
以上内容为 AMD 与 Unsloth 合作消息整理,NPU 本地推理功能、适配模型、应用兼容性取决于处理器型号、系统版本、Unsloth 版本更新,不代表所有智能体应用都能直接稳定运行,不构成硬件采购建议。
