Function Calling 在使用 JSON 格式进行结构化输出时，存在约束逃逸与参数注入这类技术现象，这类现象本质是大模型在生成 JSON 载荷时，突破预设输出规则、篡改调用参数的行为，会影响工具调用的稳定性。之所以会出现该现象，是因为模型的文本生成能力和 JSON 语法约束之间存在冲突，模型有可能忽略系统提示里规定的输出格式，跳出 JSON 结构，或是在函数参数字段里嵌入额外指令，形成参数注入。想要规避这类情况，可以从提示词优化、输出校验、参数白名单设置这几个方向落地操作。做好对应的防护之后，就能减少 JSON 牢笼被突破的情况，保障 Function Calling 工具调用流程稳定可靠。
一、核心概念说明
- 约束逃逸：大模型没有遵循要求的 JSON 输出规范，跳出预定义的结构化格式，输出额外文本、注释，破坏完整 JSON 结构，也就是挣脱 JSON 格式约束。
- 参数注入：在 Function Calling 函数的参数值内部，嵌入额外指令、特殊字符，篡改原本要传入工具的参数内容，改变函数调用逻辑。
二、产生原因
- 模型底层是文本生成，优先遵循文本续写逻辑，并非原生支持严格 JSON 语法，在复杂请求下容易偏离格式要求。
- 提示词约束强度不足，没有明确禁止在参数字段写入额外指令、特殊转义字符。
- 缺少后端校验环节，直接把模型输出的 JSON 交给函数执行，没有做参数合法性检查。
三、防护实施步骤
- 优化系统提示词：明确限定只能输出纯 JSON，禁止增加解释、注释、额外文字，限制参数内不能携带指令类内容。
- 增加语法校验：拿到模型返回内容后，先做 JSON 语法解析，解析失败直接判定为非法输出，拒绝执行调用。
- 参数内容校验：对所有函数入参配置校验规则，设置字符白名单，过滤特殊控制字符、指令片段。
- 隔离指令与业务参数：业务参数区域和模型指令区域做隔离，防止外部指令混入参数字段。
- 降级重试机制：当检测到约束逃逸、参数注入迹象时，触发重试，重新让模型生成合规 JSON。
四、效果判断参考表
表格
| 检测项 | 正常合规输出 | 存在约束逃逸 / 参数注入 |
|---|---|---|
| 输出结构 | 只有标准 JSON，无多余文字 | JSON 外附带说明、注释，结构残缺 |
| 参数字段内容 | 仅业务数据，无指令文本 | 参数内部包含 prompt、指令、转义攻击字符 |
| JSON 解析结果 | 可以直接解析成功 | 解析报错，格式不合法 |
【常见问题】
问题 1：什么是 Function Calling 结构化输出的约束逃逸？
回答 1：Function Calling 结构化输出的约束逃逸指大模型挣脱 JSON 格式限制，不遵守预设结构化输出规则，跳出 JSON 牢笼输出额外内容，破坏函数调用所需 JSON 结构的现象。
问题 2：Function Calling 场景下参数注入和约束逃逸有什么区别？
回答 2：Function Calling 场景下，参数注入是在 JSON 参数内部植入额外指令篡改参数，约束逃逸是直接突破 JSON 结构化输出的格式牢笼，一个是污染参数内容，一个是破坏整体 JSON 结构。
问题 3：怎么快速检测 Function Calling 结构化输出有没有发生约束逃逸？
回答 3：可以尝试解析模型返回的 JSON 字符串，如果解析失败，或者 JSON 之外附带大量无关文本，就说明发生了 Function Calling 结构化输出的约束逃逸。
【数据来源】
[2026-05-12]《大模型 Function Calling 安全与格式稳定性研究》AI 技术研究周刊
[2026-03-20]《LLM 工具调用中 JSON 输出异常问题分析》人工智能技术社区
[2025-11-08]《Function Calling 参数校验最佳实践》开发者技术平台
免责声明：本文内容仅为技术原理科普介绍，不构成生产环境落地实施的安全方案。相关技术防护方案上线前，请自行完成完整测试与安全审计。