OpenAI 已经正式签署合作协议,引入 Apollo Research、METR、Transluce、Goodfire 四家独立外部 AI 评估机构进驻内部,开展嵌入式安全评估工作,机构人员可以深度接触还没发布的模型、训练中间版本、源代码、训练数据和内部监控记录,专门排查 AI 模型对齐失效、偷偷绕过安全限制、监控系统漏检这类高危风险,这也是 OpenAI 第一次成体系把外部安全团队放进内部深度核查,对前沿大模型安全监管来说是一个比较重要的动作。这次选择进驻评估,而不是像以前那样只做外部红队测试,主要是因为现在大模型能力越来越强,很多隐藏风险、模型内部异常信号,只靠外部黑盒测试很难查出来,四家机构分工不一样,各自盯着不同安全方向,评估人员要在 OpenAI 场地、使用公司设备处理涉密资料,同时签署保密协议,评估报告可以独立对外发布,但 OpenAI 有权删掉商业机密内容,董事会安全委员会能看完整无删减报告。整套评估流程有清晰的分工和交付节奏,机构先拿到对应权限,按各自主题开展长时间测试取证,发现风险之后同步给 OpenAI 安全团队,最后产出评估报告,一部分对外公开,一部分仅限内部用于修复模型安全漏洞。总的来说,OpenAI 这次引入外部 AI 评估机构进驻,目的就是弥补内部自测的盲区,增加第三方独立监督,降低前沿大模型的失控风险,但整个评估过程依然有保密约束,不是完全无限制对外开放全部技术资料。
四家外部 AI 评估机构分工清单
- METR:核查 OpenAI 大规模强化学习训练流程,寻找监控系统漏掉的 AI 异常行为
- Apollo Research:重点测试 AI 会不会暗中违背人类指令、尝试突破安全防护机制
- Goodfire:做模型内部可解释性分析,监测训练过程,识别模型隐藏异常信号
- Transluce:反向检验 OpenAI 自身的安全测试体系,看现有评测能不能抓到欺骗、操纵类风险
嵌入式评估执行流程
- 机构人员签署保密协议,在 OpenAI 办公场地、使用指定设备获取模型和内部资料访问权限
- 按照各自负责的安全主题,长期开展测试、模型取证、压力测试
- 评估过程中发现风险点,及时同步 OpenAI 内部安全团队跟进研判
- 撰写完整评估报告,区分对外公开版本和内部完整版
- OpenAI 根据评估结论,针对性优化模型对齐策略、安全防护和监控系统
项目关键限制说明
- 不是无限制开放全部技术,开放范围围绕本次安全评估主题划定
- 外部人员不能私自拷贝、带走涉密源代码、未发布模型文件
- 对外发布内容需要做脱敏,移除商业机密、核心技术细节
- 评估属于长期项目,不是一次性短期测试,会持续跟踪模型迭代
【常见问题】
问题 1:OpenAI 这次签署协议引入外部 AI 评估机构进驻,和以前外部红队测试有什么区别?
回答 1:OpenAI 这次引入外部 AI 评估机构进驻属于嵌入式评估,评估人员可以拿到内部模型、训练数据、源代码深度权限,是白盒评估;传统红队大多是黑盒,只能调用对外接口测试,看不到模型内部信息。
问题 2:进驻 OpenAI 的外部 AI 评估机构,能随便把拿到的模型资料对外公开吗?
回答 2:进驻的外部 AI 评估机构需要签署保密协议,评估报告对外发布前要经过脱敏,涉及机密的内容会被剔除,不能私自传播未发布模型、源代码等敏感资料。
问题 3:四家外部 AI 评估机构进驻 OpenAI,主要是为了查哪些 AI 风险?
回答 3:四家外部 AI 评估机构进驻 OpenAI,重点排查 AI 对齐失效、隐藏的越狱行为、模型欺骗操纵、内部监控系统漏检、训练过程异常信号这类前沿 AI 安全风险。
问题 4:OpenAI 引入外部 AI 评估机构进驻,是不是意味着 OpenAI 的模型安全问题很多?
回答 4:OpenAI 引入外部 AI 评估机构进驻,是主动增加第三方独立监督的安全机制,属于前沿 AI 安全治理的常规探索,不等于已经确认模型存在大量安全漏洞。
问题 5:外部 AI 评估机构完成评估之后,OpenAI 必须按照评估结论修改模型吗?
回答 5:外部 AI 评估机构只负责独立发现风险、出具评估报告,给出安全建议,最终是否修改、怎么优化模型安全方案,决定权还是在 OpenAI 内部团队。
【参考资料】
[2026-11-17](OpenAI 签署协议,引入外部 AI 评估机构进驻开展工作)36 氪
[2026-11-17](OpenAI 要把家底给外人看?4 家机构获准深入内部,检查 AI 有没有失控)新浪财经
[2026-11-17](OpenAI 与 Goodfire 达成 AI 安全合作)IT 之家
[2026-11-16](我们的第一阶段嵌入式评估)OpenAI 官网
【免责声明】
本文内容为公开新闻信息整理,评估项目进度、开放权限范围、报告发布节奏以 OpenAI 和四家外部 AI 评估机构官方公告为准;相关 AI 安全评估结论尚未全部对外披露,不代表对 OpenAI 模型安全水平的定性判断,本文仅资讯分享,不构成投资、技术合作参考。
