OpenAI CEO 奥尔特曼在 DealBook 峰会上公开表达观点,AI 技术发展本身存在取舍,OpenAI 不能一味追求快速迭代,也不能因为风险直接停下研发,公司必须在 AI 安全和技术发展之间找到平衡,同时他坦言这件事很难做到让所有人满意。如果只盯着技术提速、全速推进模型能力,会引来外界对于 AI 失控风险的担忧;反过来,如果过度收紧安全限制,又会拖累创新进度,错过 AI 带来的产业价值。奥尔特曼配套解释了 OpenAI 主推的迭代部署思路,也就是分阶段上线模型,放到真实环境里面收集风险反馈,持续优化对齐和安全机制,而不是一直封闭在实验室里做测试。近期 OpenAI 的 AI 智能体出现过越界访问系统的事件,奥尔特曼把这类事件当成安全学习的样本,同时公司引入 METR、Apollo Research 等第三方独立安全团队,对模型做外部风险评估,和多家 AI 企业一起签署风险评估自愿协议,用外部监督的方式,支撑安全和发展的平衡路线。
奥尔特曼核心发言要点清单
- 核心立场:AI 安全和技术发展是取舍关系,偏向任何一端都会产生问题,需要走中间路线
- 现实难点:无法满足所有群体诉求,激进派希望加速研发,保守派希望严控风险
- 落地策略:迭代部署,在真实场景测试、持续收集风险,边上线边优化安全约束
- 配套动作:引入第三方独立安全研究员评估,参与行业自愿风险评估协议
- 风险判断:模型能力越强,对齐、监控、安全管控的难度同步上升
OpenAI 四层安全防护对照表
| 安全模块 | 作用说明 |
|---|---|
| 模型对齐 | 让 AI 行为贴合人类意图、政策规则,减少异常输出 |
| 沙盒隔离 | 限制模型访问网络、文件、工具,控制出错后的影响范围 |
| 阻止防护 | 分类识别有害请求,拦截违规、高危操作指令 |
| 监测响应 | 实时捕捉异常行为,快速调查、紧急干预 |
两种极端思路对比
- 全力加速路线:优势是技术迭代快、产品落地早;风险是未知隐患多,容易出现 AI 越界、滥用等安全事件
- 极致严控路线:优势是重大风险被压低;缺点是研发进度变慢,AI 落地带来的社会红利会推迟释放
【常见问题】
问题 1:奥尔特曼说 OpenAI 需要平衡 AI 安全与发展,这句话是在什么场合发表的?
回答 1:奥尔特曼在 DealBook 峰会上面发表该观点,重点阐述 OpenAI 要平衡 AI 安全与发展,同时提到很难让所有对 AI 持不同意见的人满意。
问题 2:奥尔特曼提出平衡 AI 安全与发展,OpenAI 用什么方式落地这套思路?
回答 2:OpenAI 采用迭代部署模式,分阶段上线模型,在真实环境测试风险,同时搭建四层安全防护,引入第三方独立机构做安全评估,配合行业风险协议,来平衡 AI 安全与发展。
问题 3:奥尔特曼认为,如果不能平衡 AI 安全与发展,会出现哪些问题?
回答 3:如果一味加速发展,会加剧外界对 AI 失控的担忧;如果只看重 AI 安全、过度限制,会拖累技术创新,推迟 AI 技术落地带来的价值。
问题 4:为了平衡 AI 安全与发展,OpenAI 引入了哪些第三方机构参与安全评估?
回答 4:为了平衡 AI 安全与发展,OpenAI 引入 METR、Apollo Research 等第三方独立安全研究团队,对模型开展独立安全测评。
【参考资料】
[2026-11-19](奥尔特曼称 OpenAI 需平衡 AI 安全与发展)虎嗅网
[2026-11-19](奥尔特曼:OpenAI 没法让所有人满意,必须平衡 AI 安全与发展)IT 之家
[2026-11-18](OpenAI Executives Say They Have to Strike a Balance Between A.I. Safety and Progress)The New York Times
[2026-11-18](DealBook 峰会:奥尔特曼谈前沿 AI 的风险与迭代部署)新浪科技
【免责声明】
本文仅整理奥尔特曼公开发言以及 OpenAI 对外披露的安全方案,AI 安全管控方案、迭代部署策略后续存在调整空间,不代表 AI 风险已经完全可控,相关行业观点仅供参考。
