AMD 在 11 月 19 日官宣和 Unsloth 合作,给 Unsloth Desktop 增加 NPU 硬件加速能力,XDNA 2 架构 NPU 也是 Unsloth Desktop 首个支持的 NPU,这套方案可以把 AI 智能体的推理任务从 CPU、GPU 转移到 NPU 本地运行,主打低功耗、离线可用,同时兼容上百款智能体应用。整套链路依靠 Lemonade、FastFlowLM(FLM)推理框架做中转,Unsloth Desktop 负责模型管理、对外提供兼容 OpenAI 格式的 API,不用每个软件单独做适配,Open WebUI、Cline、LangChain、GitHub Copilot 等工具都可以直接调用本地 NPU 算力。XDNA 2 本身的优势就是单位 token 功耗远低于 GPU,把推理交给 NPU 之后,CPU 和独显资源可以留给游戏、编译、视频渲染这类别的任务,笔记本脱离电源也能稳定跑常驻 AI 智能体。官方还演示了 Qwen3.6 MoE 350 亿参数模型在这套 NPU 上完成本地推理,不过本地大模型对内存容量有硬性门槛,并不是所有带 XDNA 2 的机器都能跑超大模型。
适配硬件清单
- Ryzen AI 300(Strix Point、Krackan Point)
- Ryzen AI Max(Strix Halo)
- Ryzen AI 400(Gorgon Point)
- 系统:Windows11、Linux x64;Linux 需要 7.0 及以上内核、amdxdna 驱动
整套技术链路表
| 模块 | 作用 |
|---|---|
| Unsloth Desktop | 模型下载、管理、对外 API 网关,对接各类 AI 智能体应用 |
| Lemonade + FastFlowLM(FLM) | 推理调度层,把模型任务下发到 XDNA 2 NPU |
| XDNA 2 NPU | 执行 token 生成、本地智能体推理,低功耗加速 |
| 上层应用 | Open WebUI、Cline、Hermes Agent、LangChain、Copilot 等 100 + 工具 |
核心优势和限制
✅ 优势
- 本地离线推理,不用联网、不上传数据,隐私性更好
- NPU 功耗更低,笔记本续航压力更小
- 释放 CPU、GPU 算力,多任务互不抢占
- 统一 API,大量智能体应用直接兼容,开发成本低
- 只支持 XDNA 2 架构 NPU,老款 NPU 无法使用
- 大模型对内存要求高,小内存机型只能跑轻量模型
- 目前仅支持 Unsloth 适配的模型,不是全部开源模型都能跑
⚠️ 限制
【相关 FAQ】
问题 1:AMD 发布 Unsloth Desktop NPU 支持,XDNA 2 NPU 接管本地智能体推理是什么意思?
回答 1:AMD 发布 Unsloth Desktop NPU 支持,XDNA 2 NPU 接管本地智能体推理,就是 AI 智能体的大模型推理运算不再占用 CPU 或者独显,直接交给 AMD 内置 XDNA 2 NPU 在本机离线运行,功耗更低、数据不用上传云端。
问题 2:AMD 的 Unsloth Desktop NPU 支持方案,哪些处理器可以用上 XDNA 2 跑本地智能体?
回答 2:AMD 的 Unsloth Desktop NPU 支持方案,Ryzen AI300、Ryzen AI Max、Ryzen AI400 系列,搭载 XDNA 2 NPU 的机型可以跑本地智能体推理,Windows11 和 Linux 都支持。
问题 3:AMD 这套 Unsloth Desktop 加 XDNA 2 NPU 方案,能对接哪些 AI 智能体软件?
回答 3:AMD 这套 Unsloth Desktop 加 XDNA 2 NPU 方案,依靠标准 API,能对接 Open WebUI、Cline、LangChain、GitHub Copilot 等超过 100 款 AI 智能体应用,不用单独适配。
问题 4:XDNA 2 接管本地智能体推理,相比 GPU 跑本地大模型有什么差别?
回答 4:XDNA 2 接管本地智能体推理,最大差别是功耗更低,适合笔记本离线常驻 AI 智能体;GPU 算力上限更高、适合高速推理,但是耗电明显更高,会占用显卡资源。
【参考资料】
[2026-11-19](AMD x Unsloth: Unlocking the World's First NPU for Unsloth Desktop)AMD 官网
[2026-11-19](AMD and Unsloth Bring NPU Support to 100+ Agentic AI Applications)AMD 新闻中心
[2026-11-20](AMD 发布 Unsloth Desktop NPU 支持:XDNA 2 接管本地智能体推理)超能网
[2026-11-19](Unsloth Desktop adds local inference on AMD XDNA 2 NPUs in Ryzen AI PCs)AI.info
[2026-11-19](AMD NPU: Run Models Locally Guide)Unsloth 官方文档
【免责声明】
本文仅为 AMD 和 Unsloth 合作资讯整理,XDNA 2 NPU 本地智能体推理的实际速度、支持模型清单受内存、驱动、固件版本影响,性能存在个体差异;内容不构成 PC 硬件、AI 芯片板块投资建议。
