openEuler 最新发布 Agentic Infra 智能体基础设施，这套方案已经在今年双十一大促完成规模化落地，京东广告业务接入后，整体广告推荐端到端时延直接降低 15%，峰值数十亿次请求依然能稳住毫秒级响应，核心原因是新版本打通了超节点硬件与操作系统底层调度，重点优化大模型推理里的 KV Cache 读写瓶颈，同时搭配轻量智能体沙箱，把跨节点数据传输开销砍掉，不用改动上层业务代码就能完成性能提速；整套基础设施分为三层软件栈，底层改造超节点内核实现异构算力原生调度，中间层封装沙箱、记忆系统、安全审计等通用能力，上层直接对接广告推荐、智能体问答等业务，落地步骤为先完成鲲鹏超节点硬件部署，再升级 openEuler 24.03 LTS SP5 系统，开启全局内存共享与分布式 KV Cache 优化，最后接入智能体沙箱运行环境，完成业务流量灰度切换，最终结论是这套智能体基础设施可以直接用于互联网实时推荐、大模型推理、高频竞价业务，既能压低业务时延，又能保障多智能体并发运行的安全性，适合电商大促这类高并发低延迟场景规模化部署。
一、本次发布的核心产品与技术架构
- 基础版本：openEuler 24.03 LTS SP5，正式升级为面向 Agentic Infra 的智能体操作系统。
- 三层完整软件栈
- 底层 Agent Kernel：基于超节点内核，提供异构融合调度、全局内存共享、故障隔离能力，消除跨服务器网络延迟。
- 中间 Agent Service：提供轻量融合沙箱、分布式 KV Cache、智能体记忆系统、全链路可观测组件，把复杂能力封装成标准调用接口。
- 上层应用层：直接承载广告推荐、AI 智能体、大模型推理等业务，做到开箱即用。
- 两大核心优化项
- KV Cache 加速：实现内存直传显卡，KV Cache 读写时延降低 84%，解决广告推理时 GPU 之间频繁数据搬运的卡顿问题。
- 轻量 Agent 沙箱：单实例启动耗时低于 50 毫秒，单节点千并发启动用时不到 10 秒，满足大促瞬时流量爆发需求。
二、双十一广告业务落地详情
- 落地规模：京东云联合鲲鹏超节点 + openEuler，承接约 30% 广告业务流量，峰值请求达到数十亿次。
- 实测业务指标：广告推荐端到端时延下降 15%，p99 长尾延迟明显收窄，没有出现大促高峰期请求超时问题。
- 部署方式：业务无代码改造，仅完成系统内核参数调优与 KV Cache 组件开启，一周内完成灰度上线与全量切换。
三、可落地的行业场景清单
- 互联网场景：实时广告推荐、搜索召回、内容生成智能体；
- 金融场景：证券高频交易，实测端到端时延降低 50%，并发上限提升 80%；
- AI 场景：多智能体并发运行、大模型推理服务、具身智能机器人底座；
- 政企场景：云端智能体平台、安全可控的 AI 应用运行环境。
四、部署实施标准步骤
- 硬件准备：部署鲲鹏超节点服务器，打通整机域内高速通道，规避跨节点网络开销；
- 系统升级：将服务器操作系统升级至 openEuler 24.03 LTS SP5，开启超节点全局内存池；
- 组件开启：启用分布式 KV Cache、三层智能体沙箱、业务负载感知调度；
- 流量灰度：切 10% 广告流量做压力测试，验证时延、并发稳定性；
- 全量上线：逐步切换全部业务流量，配套开启智能体运行状态监控。
【常见问题】
问题 1：openEuler 智能体基础设施实现双十一广告推荐时延下降 15%，核心技术手段是什么？
回答 1：openEuler 智能体基础设施实现双十一广告推荐时延下降 15%，核心依靠两大技术手段，一是超节点内核打通 DDR 内存与 GPU 直传通道，大幅减少 KV Cache 跨设备传输耗时，把缓存读写时延降低 84%；二是全局内存共享调度，避免广告推理任务频繁跨服务器跳转，减少网络开销，两者叠加最终让广告推荐整体时延下降 15%。
问题 2：openEuler 最新智能体基础设施，能不能直接部署在 x86 服务器，还是只能用鲲鹏硬件？
回答 2：openEuler 最新智能体基础设施同时支持鲲鹏 ARM 与 x86 主流架构，KV Cache 优化、Agent 沙箱等核心能力全架构兼容；只是鲲鹏超节点硬件可以更好发挥全局内存池化能力，在广告推荐这类高并发场景下性能收益更大，x86 服务器部署依然可以获得明显时延优化效果。
问题 3：部署 openEuler 智能体基础设施，是否需要修改广告推荐业务代码？
回答 3：部署 openEuler 智能体基础设施不需要修改广告推荐业务代码，所有优化都在操作系统内核与底层中间件完成，仅需要调整系统调度参数、开启分布式 KV Cache 组件，业务应用完全无侵入，电商平台可以快速完成大促环境升级，降低改造成本与上线风险。
问题 4：openEuler 智能体基础设施除了广告推荐场景，还能用到哪些低时延业务？
回答 4：openEuler 智能体基础设施除了广告推荐场景，还可以用于证券高频交易、大模型在线推理、实时搜索召回、多智能体并发调度等低时延业务；其中证券交易场景实测业务时延降低 50%，并发能力提升 80%，同样适用于各类毫秒级响应的线上核心服务。
【参考资料】
[2026-11-14]（openEuler 发布面向 Agentic Infra 的操作系统，全球协同共建 AI 生态）openEuler 社区官网
[2026-11-14]（双十一已用上，广告推荐时延降 15%！openEuler 发布最新智能体基础设施）腾讯新闻（智东西）
[2026-11-14]（汇聚开源力量，深化系统级创新，构筑 Agentic Infra 坚实底座）今日头条（通信世界）
[2026-11-11]（Agentic AI 浪潮来袭:openEuler 构筑智能体时代操作系统新底座）飞象网
[2026-05-25]（openEuler 深度参与 KADC 2026，共探超节点 OS 与 Agent Infra 创新路径）openEuler 社区官网
【免责声明】
本文内容整理自 openEuler 社区公开技术文档、行业媒体实测报道；openEuler 智能体基础设施带来的时延优化效果，受服务器硬件型号、业务负载、集群部署架构、大模型推理参数影响；广告推荐时延下降 15% 为京东双十一特定业务场景实测值，不代表所有业务都能达到同等优化幅度；智能体沙箱、KV Cache 优化等功能仅在 openEuler 24.03 LTS SP5 及以上版本提供；本文仅作为技术方案科普，不构成商业部署承诺，正式上线前请完成充分的压力测试与灰度验证。