普通对话大模型只会生成文字,而智能体可以自主调用 APP、读取文件、发送消息、操作业务系统,具备自主执行能力,幻觉、提示词注入、越权操作带来的风险会直接落地成真实损失,苹果、腾讯都在大规模落地端侧和企业级智能体,苹果主推 Siri 新一代智能体,打通跨 App 操作,腾讯发力 WorkBuddy 办公智能体、朱雀实验室做 Agent 攻防研究,两家都很清楚,智能体安全不是附加功能,而是智能体能不能商业化、能不能过监管、能不能获取用户信任的前提;没有安全管控,智能体一旦被劫持或者自主越界,会出现隐私泄露、文件篡改、资金风险,不管是面向 C 端手机生态,还是面向企业办公、政务场景,安全都是入场的硬性门槛,谁先把可信智能体体系跑通,谁就能拿下生态主导权。
一、智能体和普通大模型的风险差别
| 类型 | 能力边界 | 主要风险 | 安全管控重心 |
|---|---|---|---|
| 普通对话大模型 | 只输出文字,不会主动操作系统 | 内容造假、幻觉、话术误导 | 内容审核、输出过滤 |
| AI 智能体(Agent) | 自主规划、调用工具、跨 App 执行、读写文件 | 提示词注入、越狱、越权访问、高危命令执行、数据批量泄露、操作不可追溯 | 权限隔离、沙箱、操作审计、人类确认、技能准入管控 |
二、苹果、腾讯各自布局智能体安全的方向
苹果:端侧隐私优先,守住 C 端跨 App 智能体信任底座
- 依托 App Intents 意图框架,严格限制 Siri 智能体的跨应用权限,智能体不能随意读取 App 内部数据,必须经过开发者授权和用户明确同意
- 硬件安全隔区 + 本地推理优先,敏感信息尽量不上云,就算调用云端模型,也做数据标识化隔离,避免原始隐私数据外流
- 把 “可解释、可感知” 放在第一位,智能体执行重要操作前主动弹窗确认,用户随时能看到它要干什么、调用哪些权限
- 核心目标:保护苹果上亿终端用户,避免智能体变成窃取相册、短信、支付信息的通道,守住苹果长期主打隐私安全的品牌标签
腾讯:企业级全链路安全,覆盖办公、政务、行业智能体
- WorkBuddy 配套独立沙箱环境,文件读写、命令执行被圈定在授权目录,rm、sudo 这类高危命令强制二次确认,文件修改自动备份、支持一键回滚
- 朱雀实验室做 Agent 攻防红队测试,开源 A.I.G 安全演习工具、SkillTrustBench 评测基准,专门检测提示词注入、技能滥用漏洞
- 搭建 AI 网关、MCP 网关,对所有智能体工具调用链路做日志审计、风险拦截,管理员统一管控智能体权限、用量、技能上架
- 参与可信办公智能体标准制定,面向政务、金融等高敏感行业,满足数据不出域、合规可审计的硬性要求
三、智能体安全的四大核心风险(也是巨头必须解决的痛点)
- 提示词注入攻击:外部恶意文本、隐藏字符诱导智能体绕过规则,偷偷调用敏感工具、导出数据,是目前最高发的攻击方式
- 权限越界:智能体拿到 A 应用权限之后,尝试访问其他私密文件、通讯录、财务系统,传统权限体系很难约束自主规划行为
- 幻觉带来破坏性操作:大模型认错指令、理解错规则,自动删除文件、发错消息、提交错误业务单据,损失直接落地
- 生态连锁风险:第三方技能、插件、连接器数量越来越多,单个第三方技能有漏洞,会连累整个智能体平台被攻破
四、为什么现在巨头集中押注智能体安全
- 监管要求明确:国内智能体治理文件、欧盟 AI 法案都要求自主智能体分级管控、风险可追溯,安全不达标无法上线商用
- 用户信任门槛变高:用户愿意让 AI 帮自己干活,但前提是可控;一旦出现安全事故,整个智能体产品会被用户放弃
- 商业模式的前置条件:苹果靠 Siri 智能体盘活全设备生态,腾讯靠 WorkBuddy 切入企业市场,安全是规模化收费、落地行业客户的通行证
- 攻防竞争前置:黑客也在使用智能体自动化攻击,厂商必须用安全智能体对抗攻击智能体,属于攻防军备竞赛
五、选型与避坑要点
✅ 看权限模型:优先支持最小权限、按技能单独授权,而不是给智能体一次性全量权限
✅ 看沙箱隔离:文件、命令、网络访问必须隔离,高危操作强制人工复核
✅ 看完整审计日志:每一步工具调用、推理过程、修改记录全部留痕,方便追溯
✅ 看技能审核机制:第三方插件、技能上架前做安全检测,而不是随便接入
❌ 只看智能体有多能干,不看操作拦截、回滚、审计能力的产品,风险极高
【常见问题】
问题 1:智能体安全为什么苹果、腾讯都盯上了,智能体安全和普通大模型安全有什么不一样?
回答 1:智能体安全的核心区别是智能体具备自主操作能力,风险不再只是文字造假,而是可以篡改文件、跨 App 读取隐私、执行高危指令;苹果、腾讯要大规模落地 C 端和企业智能体,智能体安全是信任、合规、商业化的基础,所以两家都重点布局。
问题 2:苹果在智能体安全上,针对 Siri 智能体主要做了哪些防护?
回答 2:苹果的智能体安全方案以 App Intents 权限框架、硬件安全隔区、本地推理为主,Siri 智能体跨 App 操作必须获得明确授权,敏感操作强制用户确认,优先本地处理隐私数据,防止智能体越权窃取用户信息。
问题 3:腾讯布局智能体安全,WorkBuddy 办公智能体的安全机制是什么?
回答 3:腾讯的智能体安全体系围绕 WorkBuddy 搭建,使用独立沙箱隔离文件和命令执行,高危操作二次确认,文件改动自动备份可回滚,搭配 AI 网关全链路审计,同时朱雀实验室持续做 Agent 攻防测试,防范提示词注入和技能滥用。
问题 4:普通用户在使用智能体的时候,怎么规避智能体安全风险?
回答 4:使用智能体时,遵循智能体安全的最小权限原则,不要一次性开放通讯录、相册、财务文档等全部权限,重要操作等人工确认,不随便安装来路不明的第三方智能体技能、插件,定期查看智能体操作日志。
【参考资料】
[2026-11-16](智能体安全,为何苹果腾讯都盯上了?)36 氪
[2026-11-05](Apple Plans Smarter Siri AI Agents but Puts Privacy First)TUAW
[2026-11-02](Agent 开始替人改文件、调系统,企业的权限边界该划在哪)腾讯新闻
[2026-10-14](《人工智能 可信办公智能体标准体系》发布 腾讯 AI 办公实践为标准体系提供重要支撑)新华网
【免责声明】
本文仅为智能体安全行业资讯解读,苹果、腾讯的智能体安全方案会随系统版本、产品迭代持续调整;智能体风险受场景、权限配置、第三方插件影响,不存在绝对安全的智能体;本文不构成企业采购、个人使用智能体产品的安全选型建议,高敏感场景使用前建议做专项安全测试。
