您的位置首页 >机器人 >

潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架

北大知识计算实验室与腾讯微信安全技术团队联合发布名为「潘多拉工具箱」的综述论文,跳出过去只针对大模型单点漏洞做防护的思路,从完整生命周期视角梳理通用智能体的安全风险、攻击手段、评测方案和防御体系;通用智能体和普通对话大模型不一样,它可以调用外部工具、自主编排任务、长期记忆沉淀、持续迭代技能,攻击不一定当场爆发,恶意内容可以藏在技能供应链里,在编排阶段篡改决策、执行阶段窃取数据,还会写入长期记忆跨会话持续留存放大风险,这套框架把风险划分为来源、编排、执行、持久反馈四大环节,归纳出技能供应链、用户输入、长期记忆、外部环境四大攻击面,同时给出三层防御体系和风险自进化闭环方案,给 Agent 开发者、安全团队提供一套完整的安全分析与治理参考标准,推动智能体安全从单点补丁升级成全流程管控。

一、潘多拉工具箱生命周期四大环节清单

  1. 来源阶段(Provenance)
  2. 编排阶段(Orchestration)
  3. 执行阶段(Execution)
  4. 持久反馈阶段(Persistent Feedback)

风险来源:第三方技能包、插件、外部 API、用户上传的任务模板

典型攻击:投毒恶意技能、伪造可信接口、技能描述隐藏恶意逻辑

核心目标:管控进入智能体系统的所有外部能力素材

风险来源:智能体自主选择工具、规划任务步骤、读取历史记忆

典型攻击:诱导智能体选错工具、篡改任务规划、污染记忆影响后续判断

核心目标:保护智能体决策链路,防止恶意引导改变执行计划

风险来源:调用 API、读写文件、执行代码、访问外部系统

典型攻击:数据窃取、越权操作、指令注入、违规文件读写

核心目标:运行时监控、限制动作权限,拦截危险操作

风险来源:任务结果存入长期记忆、保存自定义技能、生成工件

典型攻击:污染记忆库,风险跨会话留存,反复触发

核心目标:校验写入记忆、技能库的内容,切断风险持续传播链路

二、四大攻击面对照表

攻击面风险位置典型攻击场景
技能供应链第三方技能市场、插件、开源工具包伪装成比价、查询工具的恶意技能,内置窃取接口
用户输入用户 Prompt、上传文件、对话指令提示注入、文件投毒,诱导智能体执行违规动作
长期记忆向量库、会话记忆、历史任务记录记忆污染,后续任务读取脏记忆持续出错
外部环境第三方 API、数据库、网页资源返回篡改数据、伪造业务结果误导智能体

三、三层防御体系说明

  1. 输入过滤层
  2. 决策保护层
  3. 运行时约束层

对技能描述、用户 Prompt、外部返回内容做校验、清洗、恶意识别,拦截明显的注入、投毒内容,是第一道防线。

审计智能体任务规划、工具选择逻辑,校验技能调用理由,限制高风险工具的自主调用权限,防止被诱导跑偏。

沙箱隔离、最小权限、动作白名单、实时行为审计,就算前面两层被绕过,也能限制破坏范围,留存审计日志。

四、风险传播典型案例流程

  1. 攻击者上传伪装成酒店比价助手的恶意技能,混入技能市场(来源阶段投毒)
  2. 用户发起差旅查询任务,智能体自主挑选这个比价技能(编排阶段被诱导)
  3. 调用恶意接口,悄悄采集行程信息、支付信息(执行阶段数据泄露)
  4. 把这个恶意接口信息写入智能体长期记忆(持久反馈污染)
  5. 之后用户再次发起出行相关任务,智能体自动调用脏记忆里的恶意接口,风险反复生效

五、这套框架的价值和现存局限

价值:

  1. 国内首个从全生命周期视角系统性梳理通用 Agent 安全的综述框架,打破单点防护思维
  2. 明确攻击可以跨会话、跨步骤链式传导,解释了智能体安全比普通大模型更难的根源
  3. 配套给出评测思路、防御路线,方便安全团队搭建 Agent 安全评估方案
  4. 适配自进化智能体,提出风险发现、诊断、持续安全迭代的闭环思路

局限:

  1. 属于学术综述框架,不是可以直接部署的成品安全工具
  2. 很多攻击场景、防御方案还处在理论和验证阶段,大规模产业落地工具链还不完善
  3. 不同厂商 Agent 架构差异大,落地时需要针对自家智能体流程做适配改造

【常见问题】

问题 1:潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架,潘多拉工具箱是一款可以直接下载使用的安全软件吗?

回答 1:潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架,潘多拉工具箱是这篇 Agent 安全综述论文的代号,是一套安全分析框架,不是现成可直接部署的安全软件。

问题 2:潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架,潘多拉工具箱和普通提示注入防护有什么区别?

回答 2:潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架,普通提示注入防护大多只看单轮用户输入;潘多拉工具箱覆盖来源、编排、执行、持久反馈全链路,重点关注风险藏在技能、记忆里跨会话持续传播的问题。

问题 3:潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架,潘多拉工具箱定义的四大攻击面分别是什么?

回答 3:潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架,四大攻击面分别是技能供应链、用户输入、长期记忆、外部环境,风险会从这几个入口进入智能体链路。

问题 4:潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架,通用智能体风险为什么会跨会话持续生效?

回答 4:潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架,因为智能体会把任务结果、技能信息存入长期记忆,一旦记忆被污染,后续新任务读取记忆时,就会重复触发之前埋下的风险。

问题 5:潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架,潘多拉工具箱三层防御体系包含哪些?

回答 5:潘多拉工具箱研究出炉北大联合微信安全团队搭建通用智能体全生命周期安全框架,三层防御体系分为输入过滤层、决策保护层、运行时约束层,在智能体全链路不同节点做拦截和管控。

【参考资料】

[2026-11-15](打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景)机器之心

[2026-11-14](打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景)新浪财经

[2026-11-14](Unlocking the "Pandora's Toolbox": Peking University and WeChat Security Team Build a Full Lifecycle Security Landscape for General-Purpose Agents)C114Pro

[2026-11-15](北大联合微信安全团队发布潘多拉工具箱 Agent 安全综述)网易新闻

[2026-11-14](Pandora's Toolbox: A Survey of Generalist Agent Security from the Lifecycle Perspective)项目主页

【免责声明】

本文内容基于北大知识计算实验室、微信安全团队联合发布的潘多拉工具箱综述论文、科技媒体报道整理,潘多拉工具箱相关安全框架、攻击场景、防御方案为学术研究结论,落地效果受智能体架构、权限策略、业务场景影响;本文不构成 Agent 产品开发、安全建设采购、线上业务上线决策建议。

今日大家都在搜的词: