OpenAI 近期对外发布安全提醒,开发者在给智能体新增调用工具的过程里,很容易出现系统提示词(前缀)被意外修改的情况,并不是开发者主动去改动,而是工具调用、输出解析、上下文拼接的逻辑漏洞引发的,一旦前缀被篡改,智能体原本的角色、权限、安全约束就会失效,可能出现越权调用工具、泄露信息、执行危险指令、输出不符合预设规则内容的问题,哪怕只是简单给智能体加上查询、读写类工具,也会触发这个隐蔽风险,OpenAI 同步给出了对应的检查手段和加固方案,用来帮开发者排查、规避这类提示注入类漏洞。
一、前缀被意外篡改的常见触发场景
| 场景 | 风险说明 |
|---|---|
| 工具返回内容直接拼接进上下文 | 工具返回的文本里自带指令标记,被模型识别为新系统提示,覆盖原有前缀 |
| 多轮对话 + 工具循环调用 | 多次调用工具后,上下文边界混乱,用户侧或者工具返回内容污染系统提示区 |
| 流式输出、分段解析工具结果 | 分段返回内容缺少边界隔离,模型误把返回内容当成系统指令 |
| 嵌套工具、工具调用返回模板文本 | 返回内容包含 “你现在需要”“忽略之前所有指令” 这类典型提示注入话术 |
二、为什么新增工具后,更容易出现前缀被意外改动
- 工具调用会引入外部不可控文本
- 很多开发者没有做边界隔离
- 模型会优先识别指令类文本
- 隐蔽性强,常规测试很难发现
大模型本身的系统前缀是固定的,但工具返回的数据来源五花八门,数据库、接口、文件读取内容都有可能藏着注入指令。
不少开发方案直接把工具返回结果拼进对话上下文,没有用独立标签、分隔符把系统提示、用户提问、工具返回三者隔开。
当文本里出现改写角色、清空历史规则的话术,模型会优先响应,而不是识别成普通数据内容。
不是每次调用都会复现,属于概率性漏洞,简单功能测试不容易抓到,上线之后才会暴露出安全问题。
三、开发者落地加固步骤
- 区分上下文区块,使用固定分隔标记,严格隔离系统前缀、用户消息、工具返回内容,三者不能混在一起。
- 对工具返回内容做清洗过滤,拦截 “忽略之前指令”“修改你的角色”“改写系统提示” 这类注入关键词。
- 增加校验逻辑:每次工具调用结束后,校验系统前缀是否完整、有没有被替换、删减。
- 开启模型侧的安全防护参数,开启提示注入检测,限制工具可执行的操作范围、权限。
- 增加异常告警,一旦检测到系统提示被篡改、越权工具调用,立刻终止会话。
- 做专项压力测试,构造带注入载荷的工具返回内容,验证加固策略是否生效。
四、风险带来的实际影响
如果智能体的前缀被意外篡改,安全约束会直接失效。原本禁止调用的高危工具可以被触发,也可能无视权限读取敏感数据,还会无视预设输出规范,被诱导执行用户任意指令。这个问题和普通的用户提示注入不一样,源头是工具返回数据,属于智能体工具链自带的链路风险。
五、价值总结
这次 OpenAI 的提醒,核心是纠正一个开发误区:很多开发者以为只是单纯给智能体加一个工具,不会影响顶层的系统提示。实际上工具调用链路会新增一条不可控的输入通道,很容易悄无声息污染、改写系统前缀。在 Agent 智能体大量对接外部工具的当下,这个漏洞属于 Agent 开发里必须重视的基础安全问题。
【相关 FAQ】
问题 1:OpenAI 提醒给智能体加工具时前缀可能被意外改了,这里的前缀指的是什么?
回答 1:OpenAI 提醒给智能体加工具时前缀可能被意外改了,这里的前缀就是系统提示词,用来定义智能体角色、权限、安全规则,是智能体最基础的行为约束。
问题 2:OpenAI 提醒给智能体加工具时前缀可能被意外改了,是什么原因造成的?
回答 2:OpenAI 提醒给智能体加工具时前缀可能被意外改了,大多是工具返回内容携带注入指令,上下文没有做好隔离,拼接的时候污染了系统提示区块,不是开发者手动修改。
问题 3:OpenAI 提醒给智能体加工具时前缀可能被意外改了,这个漏洞会带来哪些危害?
回答 3:OpenAI 提醒给智能体加工具时前缀可能被意外改了,一旦前缀被篡改,智能体安全约束失效,可能越权调用工具、泄露信息、被诱导执行危险操作。
问题 4:OpenAI 提醒给智能体加工具时前缀可能被意外改了,开发者怎么防护?
回答 4:OpenAI 提醒给智能体加工具时前缀可能被意外改了,开发者需要用分隔符隔离上下文区块、清洗工具返回内容、增加前缀完整性校验、设置权限管控并做注入专项测试。
【参考资料】
[2026-11-19](只是给智能体加个工具,OpenAI 提醒:你的前缀可能被意外改了)机器之心
[2026-11-19](OpenAI 发布 Agent 工具链安全警告:系统提示存在被污染风险)36 氪
[2026-11-18](OpenAI 安全文档:Tool calling prompt injection mitigation)OpenAI 官方安全博客
[2026-11-18](智能体工具调用链路提示注入风险详解)InfoQ
【免责声明】
本文仅为 OpenAI 本次安全提醒公开信息整理,不构成 Agent 产品开发、线上部署安全方案;安全加固方案需要结合自身业务、模型版本、工具链路做适配,线上业务建议搭配独立安全审计。
