微软在 11 月 19 日正式公布了 USB4 RDMA 多 Windows11 电脑协同 AI 方案,也就是 RDMA over USB4,目前是开发者预览版本,只要手里有多台带 USB4 接口的 Win11 电脑,拿 USB4 线缆直接互相连起来,就能像搭积木一样把每台机器的内存、GPU 算力合并在一起,共同跑一个大参数本地 AI 模型,不用额外买专用 RDMA 网卡、交换机,也不用装第三方驱动;这个方案解决了单台 PC 显存、内存不够,装不下大模型的痛点,以前想跑超大模型要么压缩模型精度、要么上云端,现在普通 AI PC 可以低成本拼成桌面小型 AI 集群,数据走低延迟的 RDMA 直读,CPU 占用很低,是 Windows 混合智能路线里面向本地离线 AI 推理的新能力。
一、方案基础信息总表
| 项目 | 详情 |
|---|---|
| 技术名称 | RDMA over USB4(USB4 远程直接内存访问) |
| 发布时间 | 2026-11-19 |
| 当前阶段 | 开发者预览版,面向 Windows Insider 开发者 |
| 必备硬件 | 带 USB4 接口的 Win11 电脑、USB4 线缆 |
| 额外配件 | 不需要专用 RDMA 网卡、交换机 |
| 通信延迟 | 28–50 微秒,约为 USB4 以太网 UDP 的 1/4 |
| 配套框架 | NetworkDirect,配套 llama.cpp 测试样例开源 |
| 测试硬件 | AMD Ryzen AI Max+、Intel 酷睿 Ultra 系列 AI PC |
| 典型测试案例 1 | 3 台 AMD 迷你机,联合跑 4bit 量化 Qwen3-235B,18.5~22 词元 / 秒 |
| 典型测试案例 2 | 4 台酷睿 Ultra 设备,跑 GPT-OSS-120B,最高 54.2 词元 / 秒 |
二、这个搭积木算力方案的工作原理
- RDMA 远程直接内存访问:数据可以跳过操作系统 CPU 中转,一台电脑直接读写另一台电脑的内存,减少拷贝开销,延迟低、不抢 CPU 资源。
- 模型分片拆分:同一个大模型被推理框架拆成多段,分别放在不同电脑的显存和内存里,多机协同完成一轮推理。
- 积木式扩展:想算力更大、内存更多,就继续加 USB4 电脑,两台、三台、四台都可以,每新增一台就叠加它的显存和内存。
- 链路要求:两台互联,每台至少 1 个 USB4 口;三台串联,每台需要 2 个 USB4 口,40Gbps 可用,80Gbps 版本更适合长上下文任务。
三、核心优势清单
- ✅ 门槛低:用现成 USB4 AI PC,不用昂贵服务器硬件,普通创作者、开发者就能搭建桌面集群
- ✅ 离线本地运行:数据不上云,隐私性更好,不受外网带宽限制
- ✅ 兼容现有推理生态:底层用 NetworkDirect,和服务器 RDMA 是同一套 API,llama.cpp 已经提供测试 Demo
- ✅ 弹性扩容:按需增减电脑,不用一次性采购一台超大显存主机
- ✅ 原生 Windows 支持:内置在 Win11 预览系统,不用额外安装复杂驱动
四、适用场景和限制
适合场景
- 本地跑单台 PC 塞不下的超大开源大模型
- 本地 AI 研发、模型微调测试、长上下文文档推理
- 工作室、个人开发者低成本搭建离线 AI 算力集群
现存限制
- 仅开发者预览版,普通正式版 Win11 暂时还没有推送
- 必须全部主机都支持 USB4,雷电 3/4 不兼容这套 RDMA 机制
- 只做推理协同,不适合用来跑大规模训练
- 多机之间通信损耗依然存在,不是简单线性叠加性能
五、常见解读误区清单
- ❌ 误区 1:所有雷电 4 电脑都能用这个 USB4 RDMA 协同 AI 方案
- ❌ 误区 2:开启之后几台电脑直接合并成一台电脑,桌面、文件互通
- ❌ 误区 3:这个方案可以用来做大模型训练
- ❌ 误区 4:普通用户现在直接更新 Win11 就能用上
✅ 纠正:必须是原生 USB4 接口,雷电 4 不等于 USB4,硬件协议不一样,无法启用这套 RDMA 能力。
✅ 纠正:只是算力、内存给 AI 推理框架分片调用,操作系统还是独立的,不能当成一台电脑日常办公。
✅ 纠正:微软本次发布定位是本地推理,没有针对训练场景做优化,训练效率很差。
✅ 纠正:需要安装指定 Windows Insider 预览版,属于开发者测试功能,还没有正式向普通用户开放。
【相关 FAQ】
问题 1:微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存显卡算力跑本地模型,这个技术叫什么?
回答 1:微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存显卡算力跑本地模型,这项技术正式名称是 RDMA over USB4,也就是基于 USB4 的远程直接内存访问。
问题 2:微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存显卡算力跑本地模型,需要额外买网卡或者交换机吗?
回答 2:微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存显卡算力跑本地模型,不需要额外采购 RDMA 网卡、交换机,只需要 USB4 接口的 Win11 电脑和 USB4 线缆直连。
问题 3:微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存显卡算力跑本地模型,现在普通 Win11 用户能不能直接用?
回答 3:微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存显卡算力跑本地模型,目前处于开发者预览阶段,需要安装指定 Windows Insider 预览版,普通正式版 Win11 暂时还不能使用。
问题 4:微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存显卡算力跑本地模型,它和普通 USB4 以太网有什么差别?
回答 4:微软公布 USB4 多 Win11 电脑协同 AI 方案,搭积木式叠加内存显卡算力跑本地模型,RDMA 延迟更低,往返延迟 28–50 微秒,只有 USB4 以太网 UDP 方式大约四分之一,数据绕过 CPU 中转,更适合大模型分片推理。
【参考资料】
[2026-11-20](微软推 USB4 RDMA 预览版,多台 Win11 电脑协同运行大模型)DoNews
[2026-11-20](Windows 新功能支持多台 PC 物理 “合体”,性能暴涨跑大模型)IT 之家
[2026-11-20](Microsoft USB4 RDMA lets multiple Windows PCs run one large local AI model)GIGAZINE
[2026-11-19](Introducing RDMA over USB4 on Windows: run larger local AI models across PCs)Microsoft Community Hub
[2026-11-19](微软 Ignite 发布 USB4 多机协同本地 AI 算力方案)微软 Windows 官方博客
【免责声明】
本文内容基于微软官方技术博客、科技媒体公开信息整理,USB4 RDMA 多 Win11 协同 AI 方案当前为开发者预览功能,性能、兼容性、支持模型会随版本迭代调整;该方案仅支持 USB4 硬件,雷电设备不保证兼容;多机协同推理存在通信损耗,算力无法做到 100% 线性叠加;本文仅为技术资讯整理,不构成硬件采购、算力搭建的投资建议。
