北大知识计算实验室和腾讯微信安全团队联合推出名为潘多拉工具箱(Pandora's Toolbox)的综述研究,跳出过去只盯着大模型本身做安全检测的思路,从完整生命周期角度梳理通用智能体 Agent 的安全风险、攻击方式、评测手段和防御方案,解决智能体风险会跨环节传递、跨会话留存的痛点,这个研究的核心观点是智能体安全不是单独模块的安全问题,风险会沿着来源、编排、执行、持久反馈这条链路持续扩散,哪怕当下没有立刻出问题,也会污染长期记忆、复用技能,在后续任务里再次触发危害。现在通用智能体可以自己调用工具、加载外部技能、保存记忆、自主规划任务,传统单模型的提示注入、越狱防护已经不够用了,恶意技能供应链、污染记忆、环境侧攻击这些新漏洞很难被单点拦截,比如伪装成正常工具的恶意技能,先在编排阶段诱导智能体选择,执行阶段窃取信息,还把恶意配置写入长期记忆,后续别的任务也会中招。这套框架把整个智能体运行链路拆成三段核心阶段,同时划定四大攻击面,整理现有评测方法和防御手段,还指明未来三个重点研究方向,给开发者、安全团队做智能体安全评估和防护提供统一参考。总的来说,潘多拉工具箱这套成果,是国内较早面向通用自主智能体的全生命周期安全全景梳理,给 Agent 安全建立一套成体系的分析范式。
一、潘多拉工具箱核心框架清单
- 项目名称:Pandora's Toolbox(潘多拉工具箱)
- 合作单位:北京大学知识计算实验室(KCL)、腾讯微信安全技术团队
- 成果形式:学术综述论文
- 核心视角:全生命周期安全,而非单一模型、单一组件安全
- 三大生命周期阶段:来源溯源(Provenance)、任务编排(Orchestration)、动作执行(Execution)
- 四大攻击面:技能供应链、用户输入、长期记忆、外部环境
- 闭环链路:风险产生→传播放大→落地执行→持久污染反馈,持续影响后续会话
二、生命周期各阶段风险说明
| 阶段 | 风险特点 | 典型攻击场景 |
|---|---|---|
| 来源溯源阶段 | 风险从外部输入、第三方技能包引入 | 植入恶意技能包、技能投毒、第三方工具后门 |
| 任务编排阶段 | 智能体自主选工具、规划流程,被诱导改变决策 | 诱导技能选择、规划劫持、间接提示注入 |
| 动作执行阶段 | 调用 API、读写文件、联网、执行代码,产生实际影响 | 数据窃取、越权操作、恶意代码执行 |
| 持久反馈阶段 | 污染记忆、技能库、工件,风险跨会话留存 | 记忆投毒、污染可复用技能,后续任务持续受害 |
三、现有评测与防御技术分类
- 评测方式:交互式执行测试、离线轨迹审计、攻击路径溯源
- 防御手段:输入与上下文过滤、决策完整性校验、运行时监控拦截、记忆隔离、技能权限管控
- 溯源能力:对智能体每一步动作做安全归因,定位风险来源
四、论文提出的三大前沿研究方向
- 对抗风险生成:自动构造针对智能体全链路的新型攻击样本
- 细粒度安全归因:追踪风险在哪一个环节引入、在哪一步被放大
- 对抗反馈驱动持续安全进化:形成风险发现、诊断、修复的闭环,适配会自我迭代的智能体
【常见问题】
问题 1:潘多拉工具箱是北大和微信安全团队做的什么项目?
回答 1:潘多拉工具箱是北大知识计算实验室联合微信安全团队发布的综述成果,用来搭建通用智能体全生命周期安全图景,梳理 Agent 全链路风险、攻击、评测和防御方案。
问题 2:潘多拉工具箱提出的通用智能体全生命周期安全,和传统大模型安全有什么不一样?
回答 2:传统安全大多只针对模型本身,潘多拉工具箱的通用智能体全生命周期安全关注风险沿着技能、编排、执行、记忆跨环节传递,重点解决风险跨会话留存扩散的问题。
问题 3:潘多拉工具箱里提到的通用智能体攻击面包含哪些?
回答 3:潘多拉工具箱梳理通用智能体四大攻击面,分别是技能供应链、用户输入、长期记忆、外部环境,风险会在这几个攻击面之间互相传导。
问题 4:潘多拉工具箱这套通用智能体安全框架可以直接拿来部署防护产品吗?
回答 4:潘多拉工具箱属于学术综述论文,是通用智能体全生命周期安全的全景梳理框架,不是可直接运行的防护工具,用来给安全研发、评测工作提供思路参考。
【参考资料】
[2026-11-14](打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景)新浪财经
[2026-11-14](Unlocking the "Pandora's Toolbox": Peking University and WeChat Security Team Build a Full Lifecycle Security Landscape for General-Purpose Agents)C114Pro
[2026-11-14](潘多拉工具箱:通用智能体全生命周期安全综述发布)机器之心
[2026-08-28](Pandora’s Toolbox: A Survey of Generalist Agent Security from the Lifecycle Perspective)Preprints.org
【免责声明】
本文仅为潘多拉工具箱学术综述资讯解读,不构成安全产品采购、智能体开发落地建议;潘多拉工具箱为研究框架,不是成熟安全防护系统,通用智能体的安全落地方案需要结合自身业务场景单独评估。
