北大 PKU-DAIR 团队推出的 MapFlow，解决了 AI Agent 多模型接力时必须重新计算 KV 缓存的老问题，它不走直接迁移 KV 的老路，转而复用注意力图来传递 token 之间的依赖关系，在不降低输出质量的前提下，prefill 预填充延迟下降 15%–20%，多轮路由场景下吞吐量最高提升 25%，论文已经被 SIGMOD 2027 录用，配套代码也已经开源。之前行业里的 KV 缓存方案，只能在同一个模型内部复用，一旦切换到大模型、小模型这类异构模型，KV 结构和模型强绑定没法直接对接，每次模型交接，同样的长上下文、对话历史、工具说明都要完整跑一遍 prefill，浪费大量算力，这也是很多 Agent 串联工作流成本高、首 token 延迟高的核心痛点。MapFlow 换了一个复用对象，注意力图记录的是 token 之间的关联关系，这个信息在不同模型之间通用性更强，再搭配轻量线性映射、块稀疏压缩、融合 GPU 内核这几项技术，只需要少量补算，不用完整重跑 KV 计算，就能完成上下文交接，很适合经常来回切换模型的 Agent、数据增强推理场景。
一、传统 KV 缓存方案为什么没法跨模型复用
- KV 缓存是模型独有的隐状态，每一个模型的层数、头数、维度不一样，KV 的数值分布完全绑定自身权重
- 只要切换异构模型，KV 直接导入会破坏注意力计算逻辑，生成内容容易跑偏、乱答
- 多模型 Agent 工作流，每次交接都要全量 prefill，长文本场景下延迟和算力开销会被放大
二、MapFlow 核心技术模块清单
- 注意力图作为跨模型可迁移状态：存储 token 依赖关系，相比 KV，架构约束弱很多，更容易在不同模型之间传递
- 跨层、多头轻量线性映射：把源模型注意力图做简单变换适配目标模型，不需要额外微调大模型
- 部分重算机制：不是全部复用，关键层做少量补算，平衡速度和输出效果
- 块级稀疏压缩：针对超长上下文压缩注意力图，降低显存占用、减少传输开销
- 融合检索 GPU 内核：硬件层面优化读取、映射流程，进一步压缩延迟
三、MapFlow 和传统跨模型 KV 迁移方案对比
| 方案 | 复用对象 | 跨异构模型能力 | 质量风险 | 适用场景 |
|---|---|---|---|---|
| 传统 KV 前缀缓存 | KV 缓存 | ❌ 仅同模型可用 | 高，跨模型直接用容易崩坏 | 单模型对话服务 |
| 跨模型 KV 映射方案 | KV 缓存 | 有限，同系列模型效果更好 | 中等，异构差距大时质量暴跌 | 同家族大小模型切换 |
| MapFlow | 注意力图 | ✅ 适配异构模型 | 低，搭配少量重算稳住效果 | Agent 多模型接力、多轮路由 |
四、MapFlow 实测关键指标
- prefill 预填充延迟：下降 15% ~ 20%
- 吞吐量：同等 P90 首 token 延迟限制下最高提升 25%
- 效果约束：论文测试任务中，生成质量和完整重算 KV 的基线基本持平
- 收录信息：论文录用 SIGMOD 2027，项目代码开源
【常见问题】
问题 1：MapFlow 实现跨模型注意力复用，是不是代表它完全抛弃 KV 缓存了？
回答 1：MapFlow 是选择复用注意力图来完成跨模型上下文交接，它本身不是禁用 KV，只是不再尝试跨模型搬运 KV 缓存，目标模型内部依旧正常生成和使用 KV。
问题 2：MapFlow 跨模型注意力复用，对哪些业务场景提升最明显？
回答 2：MapFlow 跨模型注意力复用最适合 AI Agent 串联任务、多模型路由调度、长上下文工具调用这类场景，这类场景频繁在大小模型之间切换、上下文重复度高，prefill 开销占比大。
问题 3：普通开发者怎么用上 MapFlow 跨模型注意力复用能力？
回答 3：北大团队已经放出 MapFlow 开源代码，开发者可以拉取项目，在自研推理服务里接入这套注意力映射和压缩逻辑，暂时还没有集成到主流商用推理框架的官方版本。
问题 4：MapFlow 跨模型注意力复用，会不会造成大模型输出质量明显下滑？
回答 4：论文测试结果显示，MapFlow 跨模型注意力复用搭配局部重算机制，可以维持生成质量，只要在合理的模型配对范围内，不会出现明显的效果衰减。
【参考资料】
[2026-11-08]（跨模型上下文交接还要重算 KV？北大提出 MapFlow，让注意力跨模型复用）新浪财经
[2026-10-14]（MapFlow：跨模型复用注意力图加速 LLM 服务）沙丘社区
[2026-10-10]（Accelerating Cross-Model LLM Inference via Attention Map Reuse）arXiv
【免责声明】
本文内容基于北大 MapFlow 公开论文、行业资讯整理，MapFlow 跨模型注意力复用相关性能指标来自论文实验环境，实际落地效果受模型组合、上下文长度、推理硬件影响；相关技术方案为学术研究成果，不构成商用部署建议，请自行验证兼容性与稳定性。