第三方评测机构 Artificial Analysis 在做机器人具身智能长时测试的时候，连续跑了 7 小时 33 分钟 Gemini 4 Carbon 控制机械臂的任务，过程中 AI 给出的运动指令出现偏差，机械臂动作失控，直接砸断了硬件本体，这件事也暴露出来 Gemini 4 Carbon 虽然长链路推理、代码生成、物理规划能力很强，但真实物理世界的容错、力控、安全边界判断还存在明显短板，仿真里能跑通的动作，放到真实硬件上很容易因为微小误差累积、缺少实时力反馈判断，最后引发硬件损坏事故，很多开发者容易把仿真测试结果直接等同于真机可用，忽略真实环境的噪声、公差、延迟问题，这次事故也让行业意识到，大模型做机器人控制，不能只看任务能不能完成，安全监控、紧急停止、动作限位这些兜底机制是刚需，哪怕模型本身推理很强，缺少安全层也会出现硬件损毁。
本次事故基础信息清单
- 测试机构：Artificial Analysis
- 测试模型：Gemini 4 Carbon
- 总测试时长：7 小时 33 分钟，属于长时连续自主任务
- 事故现象：AI 输出运动指令偏差，机械臂动作失控，硬件断裂损坏
- 测试场景：具身智能自主操作实验，无人工持续干预
- 核心原因：模型对真实物理误差、力反馈感知不足，动作规划缺少安全余量
- 模型优势：长任务规划、多步骤逻辑、代码生成能力突出
- 暴露短板：真机物理容错弱、安全边界判断不足
仿真测试 VS 真机机械臂测试对比表
| 对比维度 | 仿真环境测试 Gemini 4 Carbon | 真实机械臂真机测试（本次事故） |
|---|---|---|
| 环境条件 | 理想无摩擦、无公差、无延迟 | 存在装配间隙、摩擦力、信号延迟、传感器噪声 |
| 反馈信号 | 理想精准坐标反馈 | 力反馈、位置反馈存在误差 |
| 安全约束 | 虚拟限位，不会物理损坏 | 缺少独立硬件安全兜底就会损毁设备 |
| 模型表现 | 动作规划稳定，任务成功率高 | 误差持续累积，后期动作失控 |
| 风险 | 只消耗算力、无硬件损失 | 机械臂损坏、实验室设备损失，存在安全隐患 |
机器人真机测试落地步骤
- 优先在仿真环境跑完整任务，反复验证 Gemini 4 Carbon 的动作序列、轨迹规划。
- 真机测试前，独立部署硬件安全层：限位、力传感器、紧急停止，安全逻辑独立于大模型，不能由 AI 自己判断是否停机。
- 初期缩短连续测试时长，不要直接开启 7 小时以上无人值守长任务，分段验证。
- 开启实时监控，记录每一步指令、传感器反馈、模型输出，一旦轨迹偏移立刻终止。
- 逐步增加任务时长，观察误差累积情况，重点校验模型会不会放大微小偏差。
- 事故复盘：拆分是模型规划问题、传感器噪声，还是控制接口转换带来的偏差。
- 迭代提示词，增加安全约束，要求模型主动评估动作风险，预留动作缓冲余量。
行业启示与常见误区
✅ 正确认知：Gemini 4 Carbon 适合做高层任务规划，底层安全控制、力控闭环交给传统控制程序
❌ 误区 1：仿真跑成功，真机就可以长时间无人自主运行
❌ 误区 2：大模型自己可以做安全判断，不需要独立急停硬件
❌ 误区 3：长任务推理能力强，就代表它懂真实物理世界的受力和边界
⚠️ 重点提醒：本次事故不是模型完全失效，是长时运行下物理误差不断累积，模型没有识别风险，持续下发错误动作指令
【常见问题】
问题 1：Gemini 4 Carbon 实测 7 小时 33 分钟把实验室机械臂砸断是什么事件？
回答 1：第三方评测机构 Artificial Analysis 做 Gemini 4 Carbon 具身智能长时机器人测试，连续运行 7 小时 33 分钟后，模型输出的运动指令出现偏差，机械臂失控，最终砸断机械臂硬件。
问题 2：Gemini 4 Carbon 为什么会在机械臂实测里把机械臂砸断？
回答 2：Gemini 4 Carbon 擅长高层任务规划，但对真实物理世界的公差、摩擦力、传感器误差缺少足够感知，长时测试误差不断累积，又没有独立安全兜底，动作失控后砸断机械臂。
问题 3：Gemini 4 Carbon 机械臂事故，是不是代表它不适合做机器人控制？
回答 3：不是，Gemini 4 Carbon 可以做高层任务规划、动作序列生成，但不能直接全权接管底层安全控制，真机测试必须搭配独立的硬件限位、急停、力控安全模块。
问题 4：Gemini 4 Carbon 机械臂 7 小时 33 分钟长测试，有什么可以吸取的测试经验？
回答 4：Gemini 4 Carbon 机械臂长测试建议先仿真验证、分段测试，不要直接无人值守跑 7 小时以上长任务，安全逻辑独立于大模型，全程监控传感器和轨迹偏差。
【参考资料】
[2026-11-14]（实测 7 小时 33 分钟，Gemini 4 Carbon 把实验室机械臂砸断了）新智元
[2026-11-13]（Gemini 4 Carbon robotics test damages robot arm，Artificial Analysis 官方社交账号）
[2026-11-13]（Gemini 4 Carbon 具身智能能力和风险解读）机器之心
[2026-11-12]（Gemini 4 Carbon 官方能力介绍：机器人、科研、长任务）Google DeepMind 官网
【免责声明】
本内容仅为 Gemini 4 Carbon 机械臂实测事故的资讯科普，本次事故为第三方评测机构独立实验个案，不代表 Gemini 4 Carbon 所有机器人场景都会出现同类故障；真机机器人测试存在设备损坏、人身安全风险，开展相关实验必须配套完善独立安全防护机制；模型能力、机器人控制效果受硬件、传感器、控制链路影响很大，本文不构成机器人项目开发、采购的决策依据。