原本在 AI 加速赛道互相激烈竞争的英伟达、AMD、英特尔,这次以创始成员身份一起加入 LMSYS 发起的 SGLang Consortium 联盟,三方不再各自封闭做推理适配,统一在 SGLang 这个开源大模型推理框架上协同优化跨硬件兼容能力,这件事的核心目的是降低 AI 推理部署成本、提升不同芯片之间的互通效率,SGLang 目前已经在全球超 40 万张 GPU 上落地跑生产业务,支持 LLM、多模态模型,具备前缀缓存、推测解码、预填充解码分离等优化能力,联盟成立之后会一起敲定 SGLang 的版本路线、硬件适配标准,减少开发者跨芯片迁移模型的工作量,不过三家芯片厂商在硬件销售、闭栈生态上依旧保持竞争关系,只是在开源推理软件层达成协作。下面整理联盟基础信息、SGLang 核心能力、分工方向和行业影响。
一、SGLang 联盟基础信息
- 发起方:非营利组织 LMSYS Org
- 官宣时间:2026 年 11 月 12 日,在旧金山首届 SGLang 峰会发布
- 创始成员名单:英伟达、AMD、英特尔、Google、Meta、Cloudflare、Modal、RadixArk
- 协作形式:各派技术代表组成工作组,一年两次例会,共同参与 SGLang 的路线规划、标准制定
- 合作边界:只针对开源推理框架协同开发,不合并硬件业务、不共享各自专属闭源内核技术
二、SGLang 框架核心能力清单
- 核心定位:面向大语言模型、多模态模型的高性能推理服务框架,主打低延迟、高吞吐
- 核心优化技术:RadixAttention 前缀缓存、连续批处理、推测解码、Prefill-Decode 分离调度、多 LoRA 批量推理、多精度量化
- 模型兼容:Qwen、Llama、DeepSeek、Kimi、GLM 等主流开源模型,兼容 HuggingFace、OpenAI 接口格式
- 硬件适配:英伟达 CUDA、AMD ROCm、Intel Xeon / 加速卡、谷歌 TPU 等异构硬件
三、三家芯片厂商各自的投入方向
| 厂商 | 主要贡献方向 |
|---|---|
| 英伟达 | 完善 CUDA 生态适配,把 SGLang 纳入 NIM 微服务体系,优化 Blackwell、Hopper 系列 GPU 性能 |
| AMD | 持续打磨 ROCm 平台上 SGLang 的内核,优化 MI300、MI350 系列 AI 加速器吞吐 |
| 英特尔 | 针对 Xeon CPU、Gaudi 系列加速卡做调度和算子适配,补齐 x86 异构推理能力 |
四、这次联手的价值与局限
带来的好处
- 开发者一套推理代码,就能跑在英伟达、AMD、英特尔多种硬件上,迁移成本大幅下降
- 集中力量完善异构分布式推理,适配大规模混合算力集群
- 统一开源层优化方案,减少重复造轮子,拉高整个行业推理效率,降低 Token 成本
存在的局限
- 商业竞争不变:芯片售卖、闭源 SDK、云算力业务依旧互相竞争
- 专属硬件黑科技不会开放,各家的独家高性能算子还是保留在自家闭源栈里
- 联盟只负责规划方向,不强制所有功能同步交付,性能优化节奏还是由各家自己把控
【常见问题】
问题 1:英伟达 AMD 英特尔联手加入 SGLang,是不是意味着三家停止芯片业务竞争了?
回答 1:并不是,英伟达 AMD 英特尔只是在 SGLang 开源推理框架这个软件层面协同优化,芯片销售、闭源 AI 软件栈、数据中心算力业务依旧是直接竞争关系,合作只局限在开源推理生态。
问题 2:SGLang 是什么,英伟达 AMD 英特尔加入 SGLang 联盟主要做什么?
回答 2:SGLang 是 LMSYS 推出的开源高性能大模型推理框架;三家厂商加入 SGLang 联盟,主要一起制定框架发展路线、完善自家硬件在 SGLang 上的适配,打通异构芯片的推理部署能力。
问题 3:英伟达 AMD 英特尔加入 SGLang Consortium 之后,普通开发者能获得什么好处?
回答 3:开发者使用 SGLang 开发推理服务,不用单独为英伟达、AMD、英特尔的硬件分别改大量适配代码,一套服务可以跨多种加速卡运行,调试、迁移模型的工作量变少,更容易搭建混合算力集群。
问题 4:SGLang 联盟除了英伟达 AMD 英特尔,还有哪些创始成员?
回答 4:SGLang Consortium 创始成员还有 Google、Meta、Cloudflare、Modal、RadixArk,由 LMSYS Org 主导统筹整个联盟的协作事项。
【参考资料】
[2026-11-17](Nvidia, AMD Join SGLang Group; Meta Reports 2x GPU Savings)FourWeekMBA
[2026-11-14](SGLang Consortium Open Inference Unites AI Chip Rivals)MyElectricSparks
[2026-11-13](LMSYS Org Launches SGLang Consortium with Nvidia, AMD, and Intel)PC Master Insider
[2026-11-12](LMSYS Org Launches SGLang Consortium with NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal and RadixArk to Advance Open-Source AI Inference)LMSYS Org
[2026-11-12](Major Technology Companies Join SGLang Consortium to Advance Open-Source AI Inference)Business Wire
【免责声明】
本文仅为 SGLang 联盟公开资讯科普,不构成硬件采购、技术选型、商业合作建议。联盟协作内容、硬件适配进度、性能优化效果由各厂商自主推进,没有强制交付承诺;SGLang 框架功能、版本迭代随时可能调整,最终技术文档、官方公告以 LMSYS Org、英伟达、AMD、英特尔官方发布为准。
