您的位置首页 >人工智能 >

奥特曼叫停无监督 AI 造 AI,坚持 AI 研发控制权留在人类手里

奥特曼针对递归自我改进也就是 AI 造 AI 这件事明确踩下刹车,现在 OpenAI 虽然会用 AI 辅助加速新模型研发,但绝对不放开完全无人监督、让 AI 自主迭代下一代模型的权限,核心原因是无约束的 AI 自我进化会带来不可控的安全风险,模型变强速度一旦超过对齐安全能力,人类就会失去主导权;这套思路不是停止 AI 研发,而是战术上放慢激进的自我改进路线,优先把 AI 对齐、安全验证做好,所有关键决策、训练启动、参数调整都由人类审核把关,保证 AI 发展的方向盘始终握在人类手中,这也是给整个前沿 AI 行业释放的监管与自我约束信号。

一、两个概念分清:AI 辅助研发 VS AI 造 AI(RSI 递归自我改进)

  • AI 辅助研发(当前正在做):AI 帮忙写代码、跑实验、筛选数据、分析测试结果,用来提升研发效率,全程有工程师、安全团队跟进审核,人类掌握最终决定权。
  • RSI 递归自我改进(奥特曼叫停的方向):AI 脱离人类持续监督,自主设计、训练、迭代更强的下一代 AI,自动循环升级,这个路径 OpenAI 暂时不会放开。

二、奥特曼本次表态核心要点清单

  1. 现状确认:OpenAI 已经在用 AI 加速模型研发,但没有开启无人监督自主自我改进。
  2. 风险判断:如果激进推进 AI 自主造 AI,技术会进入复利式滚雪球增长,安全对齐跟不上能力提升,存在失控隐患。
  3. 执行策略:放缓 RSI 路线,优先投入资源做 AI 对齐、安全评估、风险测试。
  4. 行业态度:不反对 AI 持续发展,但竞争压力再大,安全边界不能让步,模型能力不能跑在对齐前面。
  5. 后续动作:重大模型训练启动前,先落地安全协议,联合多家头部 AI 企业同步自我监管。

三、各方立场对照表

主体对 AI 造 AI(RSI)的态度核心诉求
奥特曼(OpenAI)主动踩刹车,拒绝无监督自主迭代人类掌握控制权,对齐优先于能力扩张
马斯克、Anthropic、DeepMind支持安全管控思路统一前沿 AI 安全框架,避免盲目竞速
部分中小 AI 厂商担忧联合监管变成头部壁垒害怕规则限制中小团队创新空间

四、容易混淆的误区

  1. 不是停止 AI 迭代:只是不放手让 AI 自己造自己,AI 辅助研发、模型升级的工作还会继续推进。
  2. 不是已经出现失控 AI:目前只是提前预判风险,在技术临界点主动设置管控门槛。
  3. 不是单一企业行为:头部 AI 企业在协商统一安全标准,属于行业自我约束动作。

【常见问题】

问题 1:奥特曼给 AI 造 AI 踩刹车,是不是代表 OpenAI 不再用 AI 辅助研发新模型?

回答 1:奥特曼给 AI 造 AI 踩刹车,并不是停止 AI 辅助研发新模型,OpenAI 依旧会借助 AI 提升研发效率,只是禁止完全无人监督、让 AI 自主迭代下一代模型的 RSI 递归自我改进模式,关键环节全部保留人类审核。

问题 2:奥特曼强调 AI 造 AI 的方向盘必须握在人类手中,主要是为了规避什么风险?

回答 2:奥特曼强调 AI 造 AI 的方向盘必须握在人类手中,主要规避递归自我改进带来的失控风险,如果 AI 自主迭代变强,模型能力提升速度超过安全对齐能力,人类就很难干预、约束 AI 行为,引发不可预判的安全问题。

问题 3:奥特曼给 AI 造 AI 踩刹车之后,其他头部 AI 企业对 AI 造 AI 是什么态度?

回答 3:奥特曼给 AI 造 AI 踩刹车之后,马斯克、Anthropic、谷歌 DeepMind 等头部企业认同这套安全管控思路,支持建立统一安全框架;也有部分中小厂商担心,这套行业自我监管会变成头部企业的壁垒,限制创新。

【参考资料】

[2026-11-19](奥特曼给 “AI 造 AI” 踩刹车!方向盘必须握在人类手中)新浪财经

[2026-11-19](奥特曼给 “AI 造 AI” 踩刹车!方向盘必须握在人类手中)虎嗅网

[2026-11-18](奥特曼坦言不敢全速训 AI,RLHF 之父推演 GPT-10 夺权)36 氪

[2026-11-17](Altman Says OpenAI Has Not Let AI Improve Itself Without Human Oversight)TokenPost

[2026-11-17](奥特曼最新访谈:AI 研发的控制权要留在人类手里)新智元

【免责声明】

本文仅整理奥特曼关于 AI 造 AI 的公开表态与行业信息,AI 递归自我改进技术、安全风险评估还处在持续研究阶段,相关行业政策、企业后续计划存在变动可能,内容不构成 AI 行业投资、技术决策建议。

今日大家都在搜的词: