百度在 11 月 9 日对外披露文心 5.5 Flash 配套研发成果,推出 RSI 递归自我改进技术,依靠 ERNIE Evolve 自动研究系统自主完成推理方案搜索调优,重点针对昆仑芯 P800 国产加速卡做推理适配,在昆仑芯 P800 低时延场景下,模型生成速度最高达到基线版本的 623.6%,而且全程不损失模型输出精度。以往大模型在国产芯片上做推理优化,大多要靠工程师手动调试算子、调度逻辑,调试周期很长,很多隐藏的优化路径很难被人工找到,而 ERNIE Evolve 可以自动提出优化方向、自动跑对照实验、自动验证效果,形成 AI 自主优化 AI 的闭环。整套优化工作分成三条主线,第一条专门打磨昆仑芯 P800 低延迟推理链路,第二条优化 GPU 确定性推理吞吐,第三条打磨单并发场景下的极致解码速度,这套方案打通模型、推理引擎、国产算力芯片的协同,给国产大模型在昆仑芯集群大规模落地提供更高效的调优手段。
RSI 技术与 ERNIE Evolve 系统介绍
- RSI 全称递归自我改进(Recursive Self-Improvement),核心思路是 AI 系统自主参与自身算法、推理链路的研发迭代
- ERNIE Evolve 是百度配套搭建的自动研究系统,采用双层搜索架构,外层寻找优化方向,内层针对选定方向完成代码、算子的深度调优
- 系统可以自动分配算力、设置对照实验、记录指标、淘汰无效方案,沉淀可复用的优化经验
- 公开基准任务上,ERNIE Evolve 在 NanoChat AutoResearch、NanoGPT Speedrun 拿到 SOTA 结果,相关基准代码已经在 GitHub 开源
三大推理优化任务实测效果
| 优化场景 | 硬件平台 | 优化结果 |
|---|---|---|
| 低时延推理 | 昆仑芯 P800 | 生成速度提升至基线 623.6%,经过 4 轮迭代,优化了算子融合、主机开销、通信调度 |
| 确定性推理 | 通用 GPU | 吞吐提升 33.7%,单 token 耗时缩短 26%,首 token 延迟下降 12% |
| 单并发极致解码 | 通用 GPU | 解码速度提升 14.9%,模型精度和原始基线保持一致,一共验证 7 个方向,3 个方向拿到正向收益 |
ERNIE Evolve 针对昆仑芯 P800 的优化步骤
- 给定文心 5.5 Flash 推理基线版本,设置低时延、吞吐、精度约束条件
- ERNIE Evolve 自动生成候选优化方案,包括算子融合、投机解码、通信调度修改等方向
- 在昆仑芯 P800 环境自动批量跑实验,记录时延、吞吐、精度指标
- 筛选有效方案,淘汰带来精度下跌或者收益微弱的方向,迭代多轮
- 把最优调度、算子方案固化到推理引擎,形成稳定可用的昆仑芯 P800 优化版本
文心 5.5 Flash 基础信息补充
- 模型总参数量 2800 亿,MoE 架构,单次激活 140 亿参数
- 支持最长 100 万 token 上下文,搭载混合稀疏注意力、Echo 多 token 预测等架构创新
- 定位高速推理版本,面向高并发、长文本、智能体、内容生成场景
【常见问题】
问题 1:百度文心 5.5 Flash 引入的 RSI 技术,在昆仑芯 P800 上拿到了多大的推理提升?
回答 1:百度文心 5.5 Flash 引入的 RSI 技术,依托 ERNIE Evolve 系统调优后,在昆仑芯 P800 低时延推理场景,文心 5.5 Flash 生成速度提升到基线的 623.6%,并且维持原有模型精度不变。
问题 2:文心 5.5 Flash 配套的 RSI 技术,核心是依靠哪个系统完成昆仑芯 P800 推理优化?
回答 2:文心 5.5 Flash 配套的 RSI 技术,依靠 ERNIE Evolve 自动研究系统自主开展方案探索、实验验证,完成昆仑芯 P800 推理链路的自动优化,实现 AI 自主迭代推理方案。
问题 3:RSI 技术给文心 5.5 Flash 做昆仑芯 P800 推理优化,和人工调优相比差别在哪里?
回答 3:RSI 技术依靠 ERNIE Evolve 自动搜索大量潜在优化路径,不用工程师逐个试算子和调度策略,能找到人工容易漏掉的优化方案,缩短文心 5.5 Flash 在昆仑芯 P800 这类国产芯片上的适配周期。
【参考资料】
[2026-11-11](百度披露文心 5.5 Flash 研发技术,引入全新 RSI 技术,用于昆仑芯 P800 推理优化)机器之心
[2026-11-09](百度文心首次披露 RSI 进展:ERNIE Evolve 已用于最新模型研发)IT 之家
[2026-11-09](ERNIE Evolve: Baidu’s Automated Research System for LLM Inference Optimization)MarkTechPost
【免责声明】
本文内容整理自百度公开披露的文心 5.5 Flash、RSI、ERNIE Evolve 相关技术信息,昆仑芯 P800 的提速数据是指定测试环境下的实验结果;不同业务负载、集群规模、推理框架会带来性能差异,RSI 技术目前仍处于前沿研究阶段,本文仅为行业技术科普,不构成算力采购、模型部署、芯片选型的决策依据。
