您的位置首页 >科技要闻 >

智能体安全为什么被苹果、腾讯重点盯上,AI Agent 安全赛道价值解析

普通对话大模型只会生成文字,而智能体可以自主调用 APP、读取文件、发送消息、操作业务系统,具备自主执行能力,幻觉、提示词注入、越权操作带来的风险会直接落地成真实损失,苹果、腾讯都在大规模落地端侧和企业级智能体,苹果主推 Siri 新一代智能体,打通跨 App 操作,腾讯发力 WorkBuddy 办公智能体、朱雀实验室做 Agent 攻防研究,两家都很清楚,智能体安全不是附加功能,而是智能体能不能商业化、能不能过监管、能不能获取用户信任的前提;没有安全管控,智能体一旦被劫持或者自主越界,会出现隐私泄露、文件篡改、资金风险,不管是面向 C 端手机生态,还是面向企业办公、政务场景,安全都是入场的硬性门槛,谁先把可信智能体体系跑通,谁就能拿下生态主导权。

一、智能体和普通大模型的风险差别

类型能力边界主要风险安全管控重心
普通对话大模型只输出文字,不会主动操作系统内容造假、幻觉、话术误导内容审核、输出过滤
AI 智能体(Agent)自主规划、调用工具、跨 App 执行、读写文件提示词注入、越狱、越权访问、高危命令执行、数据批量泄露、操作不可追溯权限隔离、沙箱、操作审计、人类确认、技能准入管控

二、苹果、腾讯各自布局智能体安全的方向

苹果:端侧隐私优先,守住 C 端跨 App 智能体信任底座

  1. 依托 App Intents 意图框架,严格限制 Siri 智能体的跨应用权限,智能体不能随意读取 App 内部数据,必须经过开发者授权和用户明确同意
  2. 硬件安全隔区 + 本地推理优先,敏感信息尽量不上云,就算调用云端模型,也做数据标识化隔离,避免原始隐私数据外流
  3. 把 “可解释、可感知” 放在第一位,智能体执行重要操作前主动弹窗确认,用户随时能看到它要干什么、调用哪些权限
  4. 核心目标:保护苹果上亿终端用户,避免智能体变成窃取相册、短信、支付信息的通道,守住苹果长期主打隐私安全的品牌标签

腾讯:企业级全链路安全,覆盖办公、政务、行业智能体

  1. WorkBuddy 配套独立沙箱环境,文件读写、命令执行被圈定在授权目录,rm、sudo 这类高危命令强制二次确认,文件修改自动备份、支持一键回滚
  2. 朱雀实验室做 Agent 攻防红队测试,开源 A.I.G 安全演习工具、SkillTrustBench 评测基准,专门检测提示词注入、技能滥用漏洞
  3. 搭建 AI 网关、MCP 网关,对所有智能体工具调用链路做日志审计、风险拦截,管理员统一管控智能体权限、用量、技能上架
  4. 参与可信办公智能体标准制定,面向政务、金融等高敏感行业,满足数据不出域、合规可审计的硬性要求

三、智能体安全的四大核心风险(也是巨头必须解决的痛点)

  1. 提示词注入攻击:外部恶意文本、隐藏字符诱导智能体绕过规则,偷偷调用敏感工具、导出数据,是目前最高发的攻击方式
  2. 权限越界:智能体拿到 A 应用权限之后,尝试访问其他私密文件、通讯录、财务系统,传统权限体系很难约束自主规划行为
  3. 幻觉带来破坏性操作:大模型认错指令、理解错规则,自动删除文件、发错消息、提交错误业务单据,损失直接落地
  4. 生态连锁风险:第三方技能、插件、连接器数量越来越多,单个第三方技能有漏洞,会连累整个智能体平台被攻破

四、为什么现在巨头集中押注智能体安全

  1. 监管要求明确:国内智能体治理文件、欧盟 AI 法案都要求自主智能体分级管控、风险可追溯,安全不达标无法上线商用
  2. 用户信任门槛变高:用户愿意让 AI 帮自己干活,但前提是可控;一旦出现安全事故,整个智能体产品会被用户放弃
  3. 商业模式的前置条件:苹果靠 Siri 智能体盘活全设备生态,腾讯靠 WorkBuddy 切入企业市场,安全是规模化收费、落地行业客户的通行证
  4. 攻防竞争前置:黑客也在使用智能体自动化攻击,厂商必须用安全智能体对抗攻击智能体,属于攻防军备竞赛

五、选型与避坑要点

✅ 看权限模型:优先支持最小权限、按技能单独授权,而不是给智能体一次性全量权限

✅ 看沙箱隔离:文件、命令、网络访问必须隔离,高危操作强制人工复核

✅ 看完整审计日志:每一步工具调用、推理过程、修改记录全部留痕,方便追溯

✅ 看技能审核机制:第三方插件、技能上架前做安全检测,而不是随便接入

❌ 只看智能体有多能干,不看操作拦截、回滚、审计能力的产品,风险极高

【常见问题】

问题 1:智能体安全为什么苹果、腾讯都盯上了,智能体安全和普通大模型安全有什么不一样?

回答 1:智能体安全的核心区别是智能体具备自主操作能力,风险不再只是文字造假,而是可以篡改文件、跨 App 读取隐私、执行高危指令;苹果、腾讯要大规模落地 C 端和企业智能体,智能体安全是信任、合规、商业化的基础,所以两家都重点布局。

问题 2:苹果在智能体安全上,针对 Siri 智能体主要做了哪些防护?

回答 2:苹果的智能体安全方案以 App Intents 权限框架、硬件安全隔区、本地推理为主,Siri 智能体跨 App 操作必须获得明确授权,敏感操作强制用户确认,优先本地处理隐私数据,防止智能体越权窃取用户信息。

问题 3:腾讯布局智能体安全,WorkBuddy 办公智能体的安全机制是什么?

回答 3:腾讯的智能体安全体系围绕 WorkBuddy 搭建,使用独立沙箱隔离文件和命令执行,高危操作二次确认,文件改动自动备份可回滚,搭配 AI 网关全链路审计,同时朱雀实验室持续做 Agent 攻防测试,防范提示词注入和技能滥用。

问题 4:普通用户在使用智能体的时候,怎么规避智能体安全风险?

回答 4:使用智能体时,遵循智能体安全的最小权限原则,不要一次性开放通讯录、相册、财务文档等全部权限,重要操作等人工确认,不随便安装来路不明的第三方智能体技能、插件,定期查看智能体操作日志。

【参考资料】

[2026-11-16](智能体安全,为何苹果腾讯都盯上了?)36 氪

[2026-11-05](Apple Plans Smarter Siri AI Agents but Puts Privacy First)TUAW

[2026-11-02](Agent 开始替人改文件、调系统,企业的权限边界该划在哪)腾讯新闻

[2026-10-14](《人工智能 可信办公智能体标准体系》发布 腾讯 AI 办公实践为标准体系提供重要支撑)新华网

【免责声明】

本文仅为智能体安全行业资讯解读,苹果、腾讯的智能体安全方案会随系统版本、产品迭代持续调整;智能体风险受场景、权限配置、第三方插件影响,不存在绝对安全的智能体;本文不构成企业采购、个人使用智能体产品的安全选型建议,高敏感场景使用前建议做专项安全测试。

今日大家都在搜的词: