奥特曼针对递归自我改进也就是 AI 造 AI 这件事明确踩下刹车,现在 OpenAI 虽然会用 AI 辅助加速新模型研发,但绝对不放开完全无人监督、让 AI 自主迭代下一代模型的权限,核心原因是无约束的 AI 自我进化会带来不可控的安全风险,模型变强速度一旦超过对齐安全能力,人类就会失去主导权;这套思路不是停止 AI 研发,而是战术上放慢激进的自我改进路线,优先把 AI 对齐、安全验证做好,所有关键决策、训练启动、参数调整都由人类审核把关,保证 AI 发展的方向盘始终握在人类手中,这也是给整个前沿 AI 行业释放的监管与自我约束信号。
一、两个概念分清:AI 辅助研发 VS AI 造 AI(RSI 递归自我改进)
- AI 辅助研发(当前正在做):AI 帮忙写代码、跑实验、筛选数据、分析测试结果,用来提升研发效率,全程有工程师、安全团队跟进审核,人类掌握最终决定权。
- RSI 递归自我改进(奥特曼叫停的方向):AI 脱离人类持续监督,自主设计、训练、迭代更强的下一代 AI,自动循环升级,这个路径 OpenAI 暂时不会放开。
二、奥特曼本次表态核心要点清单
- 现状确认:OpenAI 已经在用 AI 加速模型研发,但没有开启无人监督自主自我改进。
- 风险判断:如果激进推进 AI 自主造 AI,技术会进入复利式滚雪球增长,安全对齐跟不上能力提升,存在失控隐患。
- 执行策略:放缓 RSI 路线,优先投入资源做 AI 对齐、安全评估、风险测试。
- 行业态度:不反对 AI 持续发展,但竞争压力再大,安全边界不能让步,模型能力不能跑在对齐前面。
- 后续动作:重大模型训练启动前,先落地安全协议,联合多家头部 AI 企业同步自我监管。
三、各方立场对照表
| 主体 | 对 AI 造 AI(RSI)的态度 | 核心诉求 |
|---|---|---|
| 奥特曼(OpenAI) | 主动踩刹车,拒绝无监督自主迭代 | 人类掌握控制权,对齐优先于能力扩张 |
| 马斯克、Anthropic、DeepMind | 支持安全管控思路 | 统一前沿 AI 安全框架,避免盲目竞速 |
| 部分中小 AI 厂商 | 担忧联合监管变成头部壁垒 | 害怕规则限制中小团队创新空间 |
四、容易混淆的误区
- 不是停止 AI 迭代:只是不放手让 AI 自己造自己,AI 辅助研发、模型升级的工作还会继续推进。
- 不是已经出现失控 AI:目前只是提前预判风险,在技术临界点主动设置管控门槛。
- 不是单一企业行为:头部 AI 企业在协商统一安全标准,属于行业自我约束动作。
【常见问题】
问题 1:奥特曼给 AI 造 AI 踩刹车,是不是代表 OpenAI 不再用 AI 辅助研发新模型?
回答 1:奥特曼给 AI 造 AI 踩刹车,并不是停止 AI 辅助研发新模型,OpenAI 依旧会借助 AI 提升研发效率,只是禁止完全无人监督、让 AI 自主迭代下一代模型的 RSI 递归自我改进模式,关键环节全部保留人类审核。
问题 2:奥特曼强调 AI 造 AI 的方向盘必须握在人类手中,主要是为了规避什么风险?
回答 2:奥特曼强调 AI 造 AI 的方向盘必须握在人类手中,主要规避递归自我改进带来的失控风险,如果 AI 自主迭代变强,模型能力提升速度超过安全对齐能力,人类就很难干预、约束 AI 行为,引发不可预判的安全问题。
问题 3:奥特曼给 AI 造 AI 踩刹车之后,其他头部 AI 企业对 AI 造 AI 是什么态度?
回答 3:奥特曼给 AI 造 AI 踩刹车之后,马斯克、Anthropic、谷歌 DeepMind 等头部企业认同这套安全管控思路,支持建立统一安全框架;也有部分中小厂商担心,这套行业自我监管会变成头部企业的壁垒,限制创新。
【参考资料】
[2026-11-19](奥特曼给 “AI 造 AI” 踩刹车!方向盘必须握在人类手中)新浪财经
[2026-11-19](奥特曼给 “AI 造 AI” 踩刹车!方向盘必须握在人类手中)虎嗅网
[2026-11-18](奥特曼坦言不敢全速训 AI,RLHF 之父推演 GPT-10 夺权)36 氪
[2026-11-17](Altman Says OpenAI Has Not Let AI Improve Itself Without Human Oversight)TokenPost
[2026-11-17](奥特曼最新访谈:AI 研发的控制权要留在人类手里)新智元
【免责声明】
本文仅整理奥特曼关于 AI 造 AI 的公开表态与行业信息,AI 递归自我改进技术、安全风险评估还处在持续研究阶段,相关行业政策、企业后续计划存在变动可能,内容不构成 AI 行业投资、技术决策建议。
