您的位置首页 >人工智能 >

英伟达 AMD 英特尔同台合作,共同加入 SGLang 开源推理联盟

原本在 AI 加速赛道互相激烈竞争的英伟达、AMD、英特尔,这次以创始成员身份一起加入 LMSYS 发起的 SGLang Consortium 联盟,三方不再各自封闭做推理适配,统一在 SGLang 这个开源大模型推理框架上协同优化跨硬件兼容能力,这件事的核心目的是降低 AI 推理部署成本、提升不同芯片之间的互通效率,SGLang 目前已经在全球超 40 万张 GPU 上落地跑生产业务,支持 LLM、多模态模型,具备前缀缓存、推测解码、预填充解码分离等优化能力,联盟成立之后会一起敲定 SGLang 的版本路线、硬件适配标准,减少开发者跨芯片迁移模型的工作量,不过三家芯片厂商在硬件销售、闭栈生态上依旧保持竞争关系,只是在开源推理软件层达成协作。下面整理联盟基础信息、SGLang 核心能力、分工方向和行业影响。

一、SGLang 联盟基础信息

  • 发起方:非营利组织 LMSYS Org
  • 官宣时间:2026 年 11 月 12 日,在旧金山首届 SGLang 峰会发布
  • 创始成员名单:英伟达、AMD、英特尔、Google、Meta、Cloudflare、Modal、RadixArk
  • 协作形式:各派技术代表组成工作组,一年两次例会,共同参与 SGLang 的路线规划、标准制定
  • 合作边界:只针对开源推理框架协同开发,不合并硬件业务、不共享各自专属闭源内核技术

二、SGLang 框架核心能力清单

  • 核心定位:面向大语言模型、多模态模型的高性能推理服务框架,主打低延迟、高吞吐
  • 核心优化技术:RadixAttention 前缀缓存、连续批处理、推测解码、Prefill-Decode 分离调度、多 LoRA 批量推理、多精度量化
  • 模型兼容:Qwen、Llama、DeepSeek、Kimi、GLM 等主流开源模型,兼容 HuggingFace、OpenAI 接口格式
  • 硬件适配:英伟达 CUDA、AMD ROCm、Intel Xeon / 加速卡、谷歌 TPU 等异构硬件

三、三家芯片厂商各自的投入方向

厂商主要贡献方向
英伟达完善 CUDA 生态适配,把 SGLang 纳入 NIM 微服务体系,优化 Blackwell、Hopper 系列 GPU 性能
AMD持续打磨 ROCm 平台上 SGLang 的内核,优化 MI300、MI350 系列 AI 加速器吞吐
英特尔针对 Xeon CPU、Gaudi 系列加速卡做调度和算子适配,补齐 x86 异构推理能力

四、这次联手的价值与局限

带来的好处

  1. 开发者一套推理代码,就能跑在英伟达、AMD、英特尔多种硬件上,迁移成本大幅下降
  2. 集中力量完善异构分布式推理,适配大规模混合算力集群
  3. 统一开源层优化方案,减少重复造轮子,拉高整个行业推理效率,降低 Token 成本

存在的局限

  1. 商业竞争不变:芯片售卖、闭源 SDK、云算力业务依旧互相竞争
  2. 专属硬件黑科技不会开放,各家的独家高性能算子还是保留在自家闭源栈里
  3. 联盟只负责规划方向,不强制所有功能同步交付,性能优化节奏还是由各家自己把控

【常见问题】

问题 1:英伟达 AMD 英特尔联手加入 SGLang,是不是意味着三家停止芯片业务竞争了?

回答 1:并不是,英伟达 AMD 英特尔只是在 SGLang 开源推理框架这个软件层面协同优化,芯片销售、闭源 AI 软件栈、数据中心算力业务依旧是直接竞争关系,合作只局限在开源推理生态。

问题 2:SGLang 是什么,英伟达 AMD 英特尔加入 SGLang 联盟主要做什么?

回答 2:SGLang 是 LMSYS 推出的开源高性能大模型推理框架;三家厂商加入 SGLang 联盟,主要一起制定框架发展路线、完善自家硬件在 SGLang 上的适配,打通异构芯片的推理部署能力。

问题 3:英伟达 AMD 英特尔加入 SGLang Consortium 之后,普通开发者能获得什么好处?

回答 3:开发者使用 SGLang 开发推理服务,不用单独为英伟达、AMD、英特尔的硬件分别改大量适配代码,一套服务可以跨多种加速卡运行,调试、迁移模型的工作量变少,更容易搭建混合算力集群。

问题 4:SGLang 联盟除了英伟达 AMD 英特尔,还有哪些创始成员?

回答 4:SGLang Consortium 创始成员还有 Google、Meta、Cloudflare、Modal、RadixArk,由 LMSYS Org 主导统筹整个联盟的协作事项。

【参考资料】

[2026-11-17](Nvidia, AMD Join SGLang Group; Meta Reports 2x GPU Savings)FourWeekMBA

[2026-11-14](SGLang Consortium Open Inference Unites AI Chip Rivals)MyElectricSparks

[2026-11-13](LMSYS Org Launches SGLang Consortium with Nvidia, AMD, and Intel)PC Master Insider

[2026-11-12](LMSYS Org Launches SGLang Consortium with NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal and RadixArk to Advance Open-Source AI Inference)LMSYS Org

[2026-11-12](Major Technology Companies Join SGLang Consortium to Advance Open-Source AI Inference)Business Wire

【免责声明】

本文仅为 SGLang 联盟公开资讯科普,不构成硬件采购、技术选型、商业合作建议。联盟协作内容、硬件适配进度、性能优化效果由各厂商自主推进,没有强制交付承诺;SGLang 框架功能、版本迭代随时可能调整,最终技术文档、官方公告以 LMSYS Org、英伟达、AMD、英特尔官方发布为准。

今日大家都在搜的词: