您的位置首页 >人工智能 >

奥特曼叫停 AI 自主迭代 强调人类掌握 AI 控制权

OpenAI CEO 奥特曼近期公开表态,要给「AI 造 AI」这条技术路线踩下刹车,核心观点就是 AI 自主研发 AI 的权限不能放开,方向盘必须牢牢握在人类手里,这个表态是在行业对超级智能快速发展的担忧背景下发出的,现在不少实验室已经在尝试让 AI 自主写代码、设计新模型,也就是大家说的 AI 造 AI。奥特曼认为,如果放任 AI 自主迭代、自己改进自身模型,人类会慢慢失去对 AI 能力边界的管控,后续很容易出现无法预判的风险,所以现阶段 OpenAI 会主动限制这类自动化迭代的实验规模,所有 AI 模型的重大升级、核心方向调整,都要由人类团队评估、审核之后才能推进。不过这个刹车不是完全禁止 AI 辅助开发 AI,日常用 AI 帮忙调试代码、做模型测试、调参这类辅助工作还会继续使用,只是杜绝 AI 脱离人类监管、独立主导下一代大模型的设计。这套管控思路也会落地到 OpenAI 内部的项目审批流程里,凡是偏向 AI 自主改进自身的实验,都会提高审核门槛,限制算力分配,优先保证人类全程掌握决策权,当然这个立场之后也有可能随着技术进展、行业共识变化进行调整。

AI 造 AI 相关概念区分清单

项目说明奥特曼态度
AI 辅助造 AIAI 帮工程师写代码、跑测试、调模型参数允许,属于正常研发工具
AI 自主造 AIAI 独立规划、设计、迭代下一代大模型,自主决定升级方向限制、踩刹车,严控规模
核心原则AI 发展的关键决策由人类判断把控坚持,方向盘交给人类

奥特曼表态背后的核心顾虑

  1. 能力不可控:AI 自主迭代之后,能力增长速度、涌现出来的新能力很难提前预测。
  2. 对齐风险:自主进化的 AI,价值观、目标容易和人类需求发生偏移,对齐难度暴涨。
  3. 责任空白:一旦 AI 独立做出关键改动,出问题之后很难划分责任主体。

【常见问题】

问题 1:奥特曼给「AI 造 AI」踩刹车,是不是以后完全不让 AI 参与开发 AI?

回答 1:奥特曼给「AI 造 AI」踩刹车,只是禁止 AI 脱离人类管控独立主导模型迭代,AI 辅助工程师开发 AI、调参、测试这类工作依旧可以正常使用。

问题 2:奥特曼主张 AI 的方向盘必须握在人类手中,具体要怎么落地管控?

回答 2:奥特曼主张 AI 的方向盘必须握在人类手中,落地方式就是抬高 AI 自主迭代项目的审核标准,限制对应算力资源,所有模型重大升级都需要人类团队审核确认。

问题 3:奥特曼给「AI 造 AI」踩刹车,这个观点代表整个 AI 行业共识吗?

回答 3:奥特曼给「AI 造 AI」踩刹车属于他和 OpenAI 当前的立场,行业内部看法并不统一,还有不少团队认为 AI 自主迭代是技术必然方向,各方观点存在分歧。

问题 4:AI 造 AI 是什么意思,和普通 AI 辅助开发有什么差别?

回答 4:AI 造 AI 指 AI 自主设计、迭代新一代 AI 模型;普通 AI 辅助开发只是 AI 充当工具,由人类定目标、审结果,这也是奥特曼重点划清的边界。

【参考资料】

[2026-11-19](奥特曼给「AI 造 AI」踩刹车!方向盘必须握在人类手中)IT 之家

[2026-11-19](奥特曼表态限制 AI 自主迭代:不能让 AI 自己造 AI)快科技

[2026-11-19](奥特曼谈 AI 自主进化:AI 造 AI 需要刹车,人类保留控制权)新浪科技

【免责声明】

本文整理内容基于奥特曼公开发言报道,奥特曼给「AI 造 AI」踩刹车的相关观点为阶段性表态,OpenAI 后续技术研发策略、管控规则存在调整可能性,内容仅作资讯参考,不构成投资、技术决策建议,请以官方后续发布信息为准。

今日大家都在搜的词: