您的位置首页 >科技要闻 >

奥特曼对 “AI 造 AI” 递归自我改进踩刹车,强调 AI 研发的最终控制权必须掌握在人类手中

OpenAI CEO 奥特曼近期对外表态,给行业火热的 “AI 造 AI” 也就是递归自我改进路线踩下刹车,他明确区分两件事,OpenAI 确实已经在用 AI 辅助新模型研发、提升训练效率,但绝对不会放开权限,让 AI 脱离人类监督、自主设计下一代更强 AI,核心原则就是方向盘一定要握在人类手里,他认为一旦放开全自动自我迭代,AI 能力会进入不受控的滚雪球增长,对齐和安全管控很难跟上能力扩张速度,这是非常大的生存风险,同时他也吐槽部分硅谷同行的思路,许诺 AI 带来巨大收益的同时,想要把未来的主导权交给机器,他形容这种状态就像人类失去自主权,只能被动接受 AI 安排,奥特曼的态度不是停止 AI 研发,而是战术克制,优先把对齐、安全机制打磨到位,再继续推进更强模型的研发,如果你关注前沿 AI 安全,这个表态代表 OpenAI 在递归自我改进这条高风险路线上设置了明确红线,AI 只能做辅助执行工作,重大研发决策、启停权限全部由人类把控。

奥特曼对 AI 造 AI 的两层边界划分

项目说明
允许的范围AI 作为研发助手,写代码、排查训练故障、辅助实验评估,加速模型研发流程
禁止的范围无人工监督、全自动闭环,AI 自主启动下一代模型训练、自主修改自身架构、自主迭代变强
核心底线所有重大训练启动、参数调整、评估判定,最终决策权归人类

奥特曼提出的两大 AI 风险清单

  1. 失控风险:AI 递归自我改进,能力增长速度超过安全对齐能力,人类失去叫停能力
  2. 权力集中风险:超强 AI 集中在少数公司或者少数人手里,用 AI 输出的结果强行输出单一价值观,造成权力垄断

行业理解:刹车不等于停止研发

  • 不是放弃 AI 辅助研发,现在 OpenAI 内部已经常态化使用 AI 工具做模型研发
  • 属于节奏管控,先补齐安全、对齐方案,再推进高风险的自我改进实验
  • 希望行业形成共识:竞争压力再大,也不能让模型能力跑在安全管控前面

【常见问题】

问题 1:奥特曼给 “AI 造 AI” 踩刹车,方向盘必须握在人类手中,这里的 AI 造 AI 指什么?

回答 1:奥特曼给 “AI 造 AI” 踩刹车,方向盘必须握在人类手中,AI 造 AI 就是递归自我改进,也就是 AI 自主设计、训练、迭代下一代更强 AI,形成闭环自我变强。

问题 2:奥特曼给 “AI 造 AI” 踩刹车,方向盘必须握在人类手中,是不是 OpenAI 不再用 AI 辅助研发?

回答 2:奥特曼给 “AI 造 AI” 踩刹车,方向盘必须握在人类手中,并不是不再用 AI 辅助研发,只是禁止 AI 脱离人全自动闭环迭代,AI 依旧可以作为研发助手,重大决策由人类把控。

问题 3:奥特曼给 “AI 造 AI” 踩刹车,方向盘必须握在人类手中,奥特曼担心的核心风险是什么?

回答 3:奥特曼给 “AI 造 AI” 踩刹车,方向盘必须握在人类手中,他主要担心两大风险,一是 AI 能力失控,人类没法叫停;二是超强 AI 带来权力过度集中,少数主体掌控 AI 主导未来。

问题 4:奥特曼给 “AI 造 AI” 踩刹车,方向盘必须握在人类手中,这个表态是要全面放缓 AI 发展吗?

回答 4:奥特曼给 “AI 造 AI” 踩刹车,方向盘必须握在人类手中,属于战术克制,不是全面停止 AI 发展,优先完善对齐和安全方案,再继续推进前沿模型研发。

【参考资料】

[2026-11-19](奥特曼给 “AI 造 AI” 踩刹车,方向盘必须握在人类手中)新智元

[2026-11-19](奥特曼给「AI 造 AI」踩刹车!方向盘必须握在人类手中)新浪财经

[2026-11-19](Sam Altman pushes back on recursive self-improvement of AI systems)Decrypt

[2026-09-14](奥特曼警示 AI 两大风险:失去控制权、权力过度集中)36 氪

[2026-11-04](Altman:前沿 AI 训练必须证明人类可以持续控制)EconoTimes

【免责声明】

本文仅为 AI 前沿安全资讯整理,奥特曼对 “AI 造 AI” 的表态属于企业负责人观点,递归自我改进的技术路线、安全标准还在行业持续讨论,后续 OpenAI 的研发策略、安全规范以 OpenAI 官方公告为准,不构成 AI 技术路线、产品选型的建议。

今日大家都在搜的词: