您的位置首页 >科技要闻 >

AMD发布Unsloth Desktop NPU支持XDNA 2接管本地智能体推理

AMD 在 11 月 19 日官宣和 Unsloth 合作,给 Unsloth Desktop 增加 NPU 硬件加速能力,XDNA 2 架构 NPU 也是 Unsloth Desktop 首个支持的 NPU,这套方案可以把 AI 智能体的推理任务从 CPU、GPU 转移到 NPU 本地运行,主打低功耗、离线可用,同时兼容上百款智能体应用。整套链路依靠 Lemonade、FastFlowLM(FLM)推理框架做中转,Unsloth Desktop 负责模型管理、对外提供兼容 OpenAI 格式的 API,不用每个软件单独做适配,Open WebUI、Cline、LangChain、GitHub Copilot 等工具都可以直接调用本地 NPU 算力。XDNA 2 本身的优势就是单位 token 功耗远低于 GPU,把推理交给 NPU 之后,CPU 和独显资源可以留给游戏、编译、视频渲染这类别的任务,笔记本脱离电源也能稳定跑常驻 AI 智能体。官方还演示了 Qwen3.6 MoE 350 亿参数模型在这套 NPU 上完成本地推理,不过本地大模型对内存容量有硬性门槛,并不是所有带 XDNA 2 的机器都能跑超大模型。

适配硬件清单

  • Ryzen AI 300(Strix Point、Krackan Point)
  • Ryzen AI Max(Strix Halo)
  • Ryzen AI 400(Gorgon Point)
  • 系统:Windows11、Linux x64;Linux 需要 7.0 及以上内核、amdxdna 驱动

整套技术链路表

模块作用
Unsloth Desktop模型下载、管理、对外 API 网关,对接各类 AI 智能体应用
Lemonade + FastFlowLM(FLM)推理调度层,把模型任务下发到 XDNA 2 NPU
XDNA 2 NPU执行 token 生成、本地智能体推理,低功耗加速
上层应用Open WebUI、Cline、Hermes Agent、LangChain、Copilot 等 100 + 工具

核心优势和限制

✅ 优势

  • 本地离线推理,不用联网、不上传数据,隐私性更好
  • NPU 功耗更低,笔记本续航压力更小
  • 释放 CPU、GPU 算力,多任务互不抢占
  • 统一 API,大量智能体应用直接兼容,开发成本低
  • 只支持 XDNA 2 架构 NPU,老款 NPU 无法使用
  • 大模型对内存要求高,小内存机型只能跑轻量模型
  • 目前仅支持 Unsloth 适配的模型,不是全部开源模型都能跑

⚠️ 限制

【相关 FAQ】

问题 1:AMD 发布 Unsloth Desktop NPU 支持,XDNA 2 NPU 接管本地智能体推理是什么意思?

回答 1:AMD 发布 Unsloth Desktop NPU 支持,XDNA 2 NPU 接管本地智能体推理,就是 AI 智能体的大模型推理运算不再占用 CPU 或者独显,直接交给 AMD 内置 XDNA 2 NPU 在本机离线运行,功耗更低、数据不用上传云端。

问题 2:AMD 的 Unsloth Desktop NPU 支持方案,哪些处理器可以用上 XDNA 2 跑本地智能体?

回答 2:AMD 的 Unsloth Desktop NPU 支持方案,Ryzen AI300、Ryzen AI Max、Ryzen AI400 系列,搭载 XDNA 2 NPU 的机型可以跑本地智能体推理,Windows11 和 Linux 都支持。

问题 3:AMD 这套 Unsloth Desktop 加 XDNA 2 NPU 方案,能对接哪些 AI 智能体软件?

回答 3:AMD 这套 Unsloth Desktop 加 XDNA 2 NPU 方案,依靠标准 API,能对接 Open WebUI、Cline、LangChain、GitHub Copilot 等超过 100 款 AI 智能体应用,不用单独适配。

问题 4:XDNA 2 接管本地智能体推理,相比 GPU 跑本地大模型有什么差别?

回答 4:XDNA 2 接管本地智能体推理,最大差别是功耗更低,适合笔记本离线常驻 AI 智能体;GPU 算力上限更高、适合高速推理,但是耗电明显更高,会占用显卡资源。

【参考资料】

[2026-11-19](AMD x Unsloth: Unlocking the World's First NPU for Unsloth Desktop)AMD 官网

[2026-11-19](AMD and Unsloth Bring NPU Support to 100+ Agentic AI Applications)AMD 新闻中心

[2026-11-20](AMD 发布 Unsloth Desktop NPU 支持:XDNA 2 接管本地智能体推理)超能网

[2026-11-19](Unsloth Desktop adds local inference on AMD XDNA 2 NPUs in Ryzen AI PCs)AI.info

[2026-11-19](AMD NPU: Run Models Locally Guide)Unsloth 官方文档

【免责声明】

本文仅为 AMD 和 Unsloth 合作资讯整理,XDNA 2 NPU 本地智能体推理的实际速度、支持模型清单受内存、驱动、固件版本影响,性能存在个体差异;内容不构成 PC 硬件、AI 芯片板块投资建议。

今日大家都在搜的词: