您的位置首页 >科技要闻 >

奥尔特曼表态 OpenAI 无法满足所有人诉求,要在 AI 安全与技术发展之间做好平衡

在美国当地时间 11 月 18 日的 DealBook 峰会上,OpenAI 首席执行官奥尔特曼和总裁布罗克曼一同出席访谈,奥尔特曼直接表示 OpenAI 没办法让所有人满意,AI 发展本身就存在取舍,一味加速技术研发会引来公众对 AI 失控的担忧,而过度收紧安全管控,又会拖慢 AI 产品迭代和创新节奏,所以公司选择迭代部署的路线,不在封闭环境里闭门研发,而是分阶段把模型推向真实环境测试,在实际使用中持续识别风险、优化安全对齐方案,同时他也承认随着大模型能力持续变强,安全监控、对齐治理的难度会持续上升,近期出现的 AI 智能体相关事件,也会作为安全优化的参考经验,OpenAI 还引入了第三方独立安全机构,对模型开展外部风险评估,用多方监督的方式来守住安全底线。

一、峰会核心观点梳理

  1. 两难取舍:激进推进技术,容易引发社会对 AI 失控、滥用风险的担心;安全管控过于保守,会压制 AI 创新速度,两种方向都有反对声音,很难统一所有人的意见。
  2. 迭代部署策略:不等到做到绝对无风险才发布,分阶段上线模型,在真实场景里收集风险反馈,一边落地一边修补安全漏洞,这是 OpenAI 当前主推的方案。
  3. 安全难度上升:模型能力越强,对齐、监控、风险识别的复杂度越高,单靠内部团队很难覆盖全部隐患,需要外部第三方机构参与独立评估。
  4. 风险边界区分:可以接受可控范围内的小问题当作学习样本,但不能接受失去人类掌控、引发重大灾难级别的 AI 风险。

二、配套安全举措清单

  • 引入 METR、Apollo Research 等第三方独立安全研究团队,对模型做独立测评
  • 参与行业自愿安全协议,上线前完成模型风险评估
  • 持续完善 AI 智能体的权限管控,限制越权访问行为
  • 对外同步安全进展,同步收集监管机构、学界、用户的反馈意见

三、各方立场分歧对照

立场方向主要诉求
安全派希望放慢大模型迭代速度,设置严格准入、强监管,避免 AI 带来安全隐患
创新派担心严苛的安全限制拖累 AI 技术落地,希望放开空间,优先释放 AI 的产业价值
OpenAI 选择走中间路线,迭代式上线,同步叠加内部审核 + 第三方安全评估,动态调整管控力度

四、后续方向说明

OpenAI 会继续沿着迭代部署的思路更新模型,同时持续和监管部门、安全研究机构沟通,这套平衡思路也会延续到后续更强能力模型的发布流程里,不会单纯偏向加速或者保守。

【常见问题】

问题 1:奥尔特曼称 OpenAI 没法让所有人满意,为什么一定要平衡 AI 安全与发展?

回答 1:奥尔特曼称 OpenAI 没法让所有人满意,必须平衡 AI 安全与发展,因为只追求快速发展容易带来失控、滥用风险,只看重安全管控又会延缓 AI 创新落地,两种诉求很难同时满足,只能寻找中间的平衡方案。

问题 2:奥尔特曼提到的迭代部署,是 OpenAI 平衡 AI 安全与发展的核心手段吗?

回答 2:是的,奥尔特曼在访谈里说明,迭代部署就是 OpenAI 平衡 AI 安全与发展的核心手段,也就是分阶段上线模型,在真实环境测试风险,边落地边优化安全能力,而不是封闭研发。

问题 3:奥尔特曼表态平衡 AI 安全与发展之后,OpenAI 会完全放开模型不做限制吗?

回答 3:不会,奥尔特曼表态平衡 AI 安全与发展,不等于放开管控,OpenAI 依旧保留风险评估、第三方安全审计、权限约束等机制,重点规避灾难性、失控类风险,只是不会选择完全停滞研发。

问题 4:奥尔特曼说 OpenAI 没法让所有人满意,主要是哪些群体诉求很难兼顾?

回答 4:奥尔特曼说 OpenAI 没法让所有人满意,需要兼顾的群体包含重视风险的安全研究者、监管机构,以及希望加快 AI 落地、享受技术红利的开发者和企业用户,两边诉求存在明显差异。

【参考资料】

[2026-11-19](奥尔特曼称 OpenAI 没法让所有人满意,必须平衡 AI 安全与发展)IT 之家

[2026-11-19](奥特曼:必须平衡 AI 安全与发展,没法让所有人满意)虎嗅网

[2026-11-19](DealBook 峰会:Altman 谈 OpenAI 安全与创新取舍)纽约时报中文网

[2026-11-18](OpenAI 引入第三方机构开展模型安全独立评估)OpenAI 官方博客

【免责声明】

本文内容仅为奥尔特曼峰会观点资讯科普,发言内容、OpenAI 安全策略后续可能随技术与监管环境调整;本文不构成 AI 行业投资、技术选型、合规决策建议,AI 安全相关政策和标准以各国监管机构官方文件为准。

今日大家都在搜的词: