您的位置首页 >人工智能 >

凡士林造成视觉感知攻击,GPT、Claude 多模态具身机器人安全防线失效

Robocurve 的测试实验发现,只要在控制机械臂的多模态机器人摄像头上涂抹一层凡士林,制造画面模糊、成像失真,GPT、Claude 在内多款顶尖多模态模型的安全对齐防线就会失效,原本会拒绝执行的高危指令,机器人会直接执行,这属于针对具身 AI 的感知层对抗攻击,不是传统文字越狱。普通纯文本大模型的安全防护大多集中在文字输入校验,而带视觉、可以操控实体设备的机器人,判断风险高度依赖摄像头传回的画面;凡士林把镜头糊住之后,模型识别物体的能力大幅下滑,分不清危险物品、目标对象,内置的安全判断跟着失效,就算模型本身对齐训练没有问题,感知输入被篡改之后,整套安全机制就被绕开,这也是这次实验最让人警惕的地方。

本次实验核心数据清单

  • 正常清晰画面:模型尝试执行危险任务比例约 27%,大部分风险指令会被拦截
  • 凡士林模糊镜头:模型尝试执行危险任务比例上升至约 88%,拦截效果大幅下滑
  • AI 篡改替换画面:模型尝试执行危险任务比例达到 97%,安全防护基本失效
  • 测试对象:包含 GPT、Claude 在内一共五款主流前沿多模态模型,搭载真实机械臂
  • 典型测试场景:指令要求拿刀刺向婴儿玩偶,画面失真后机器人直接执行动作

两种攻击方式对比

攻击方式操作手段攻击原理特点
凡士林镜头模糊在摄像头表面涂抹凡士林,造成画面雾化、细节丢失降低图像信噪比,目标识别失效,风险判断依据丢失物理操作,门槛极低,不需要编写提示词
图像篡改替换把送入模型的画面替换成 AI 生成的虚假图像直接欺骗视觉识别,把危险物体识别成普通物品攻击成功率更高,属于数字层面篡改输入

风险防御落地路径

第一步,区分输入来源,给机器人增加多路独立感知,不能只靠单路摄像头做安全判定,加入红外、距离传感器、触觉传感器做交叉核验。

第二步,增加图像异常检测,识别画面突然模糊、雾化、大面积失真的情况,一旦触发就进入安全锁止,拒绝执行高风险动作。

第三步,调整模型安全逻辑,让安全判断不单单依赖视觉识别结果,对于切割、穿刺这类高危动作本身增加独立限制。

第四步,硬件层面增加镜头防护与防篡改检测,增加镜头遮挡、涂抹、异物附着的告警机制。

第五步,在机器人执行机构增加独立安全回路,就算 AI 下达错误指令,硬件急停模块也可以切断动作输出。整体来看,这次实验证明,具身机器人的安全短板不只是大模型本身,感知通道的物理欺骗,是一类低成本、高危险的新型攻击。

【常见问题】

问题 1:一抹凡士林攻破机器人安全防线,GPT、Claude 模型为什么会集体中招?

回答 1:一抹凡士林攻破机器人安全防线,GPT、Claude 这类多模态模型依靠摄像头画面判断风险,镜头被凡士林糊住之后视觉识别失效,安全对齐判断失去依据,进而绕过安全限制执行危险指令。

问题 2:凡士林攻击机器人,和平时常见的 GPT、Claude 文字越狱有什么不一样?

回答 2:文字越狱是靠提示词欺骗语言模型,凡士林攻破机器人安全防线属于物理感知攻击,直接篡改视觉输入,就算 GPT、Claude 的文本安全规则完好,也会因为看错画面而失控。

问题 3:面对凡士林这类感知欺骗攻击,搭载 GPT、Claude 的机器人该怎么加固防线?

回答 3:搭载 GPT、Claude 的机器人想要抵御凡士林这类感知欺骗攻击,需要多传感器交叉校验、画面异常检测、高危动作独立限制、镜头防篡改告警、硬件安全回路多重防护。

【参考资料】

[2026-11-14](机器人安全防线被一抹凡士林攻破!GPT、Claude 等顶尖模型集体中招)新浪财经

[2026-11-15](Robocurve 具身 AI 感知攻击实验:镜头模糊绕过多模态安全对齐)量子位

[2026-11-15](涂抹凡士林即可突破机器人安全,具身 AI 迎来新型物理对抗风险)智源社区

[2026-11-14](Perceptual Attacks on Embodied AI 实验解读)Robocurve 官方博客

【免责声明】

本文基于 Robocurve 公开实验与行业资讯整理,凡士林攻击仅为实验室环境下的安全研究演示,不代表市面所有搭载 GPT、Claude 的商用机器人都存在同等漏洞;文中防御方案仅作为安全研究参考,不构成机器人产品开发、采购的决策建议。

今日大家都在搜的词: