您的位置首页 >科技要闻 >

腾讯首席 AI 科学家姚顺雨发出警告 AI 或将掌握生物学 生物类安全风险管控难度高于网络攻击

腾讯首席 AI 科学家姚顺雨在香港的学术研讨会上提出警示,AI 模型很快会具备生物学层面的实操能力,该类风险和网络攻击风险性质完全不同,管控难度更高,目前整个行业的安全准备还不够充分,这项能力既能加速新药研发、助力生命科学突破,也存在被恶意利用、制造生物危害的隐患,他同时呼吁国内开源大模型厂商重视生物学方向的安全评估,在模型对外发布前完成相关风险核验。之所以生物学相关 AI 风险更棘手,核心是网络安全里攻击能力和防御能力更容易区分隔离,而生物学领域很多科研知识本身具备双面性,同样一套生物基础理论、实验流程,既能用来治病研发疫苗,也可能被挪作有害用途,攻防边界模糊;网络攻击可以靠防火墙、入侵检测、日志溯源快速阻断,生物层面一旦发生危害,扩散速度、影响周期、恢复成本都很难预估。整套 AI 生物安全管控思路分为三步,第一步在模型训练阶段做数据过滤,剔除高风险生物实操方案;第二步上线前开展专项生物学安全评测,判断模型是否能输出可落地的有害生物操作步骤;第三步建立分级管控机制,高风险生物相关查询做拦截、人工复核、访问权限限制。综合他的发言来看,当前腾讯新发布的 Hy4 大模型,生物学能力还没有到达高危阈值,暂时还不能把书本上的生物知识转化为可执行的危险实验方案,腾讯也计划后续发布模型权重,配套包含网络安全、生物学安全评估的安全卡片,但是随着模型能力迭代,这个风险阈值会越来越近,需要行业和监管提前搭建配套安全框架。

网络攻击风险与 AI 生物学风险对比表

对比维度AI 带来的网络攻击风险AI 带来的生物学风险
攻防边界攻击、防御工具容易区分科研知识双向可用,攻防边界模糊
阻断方式防火墙、告警、封禁 IP、溯源危害发生后扩散难阻断,滞后性强
危害影响主要是数据泄露、系统瘫痪可能影响生命健康,扩散存在连锁效应
溯源难度日志、流量记录相对完善实验、样本链条追踪更复杂
行业成熟度安全方案、工具积累较多安全评估体系尚不成熟

AI 生物学能力的正反应用清单

  • 正向价值:加速新药分子筛选、病原体测序分析、蛋白质结构预测、疫苗研发、遗传病机理研究
  • 潜在风险:辅助设计有害病原体、提供危险生物实验流程、被用于制造生物威胁,诱发公共卫生事件

当前行业应对要点

  1. 模型侧:训练数据过滤高危生物实验步骤、设置生物相关内容对齐与风险提示
  2. 评测侧:建立独立生物学安全红队测试,专门核验模型输出的实操方案
  3. 开源治理:开源模型发布方要配套安全说明卡,标注生物学风险等级
  4. 协同层面:AI 企业、生物实验室、监管机构建立联合风险研判机制

【常见问题】

问题 1:腾讯首席 AI 科学家姚顺雨发出警告 AI 或将掌握生物学 生物类安全风险管控难度高于网络攻击,本次警告是谁在什么场合提出的?

回答 1:腾讯首席 AI 科学家姚顺雨发出警告 AI 或将掌握生物学 生物类安全风险管控难度高于网络攻击,该观点由腾讯首席 AI 科学家姚顺雨,在香港科学院与未来科学奖联合举办的学术研讨会上公开发表,姚顺雨曾任职于 OpenAI,去年加入腾讯。

问题 2:腾讯首席 AI 科学家姚顺雨发出警告 AI 或将掌握生物学 生物类安全风险管控难度高于网络攻击,为什么 AI 生物学风险会比网络攻击更难管控?

回答 2:腾讯首席 AI 科学家姚顺雨发出警告 AI 或将掌握生物学 生物类安全风险管控难度高于网络攻击,因为生物学领域知识攻防边界模糊,很多科研内容本身兼具有益和有害潜力;网络攻击可以快速阻断,而生物危害一旦扩散,后续控制、恢复的难度和代价更大。

问题 3:腾讯首席 AI 科学家姚顺雨发出警告 AI 或将掌握生物学 生物类安全风险管控难度高于网络攻击,腾讯 Hy4 大模型现在已经具备高危生物学能力了吗?

回答 3:腾讯首席 AI 科学家姚顺雨发出警告 AI 或将掌握生物学 生物类安全风险管控难度高于网络攻击,按照官方披露,当前 Hy4 的生物学能力还没有达到高危阈值,暂时无法把理论生物知识转化成可落地的危险操作流程。

问题 4:腾讯首席 AI 科学家姚顺雨发出警告 AI 或将掌握生物学 生物类安全风险管控难度高于网络攻击,姚顺雨对国内开源大模型企业提出了什么建议?

回答 4:腾讯首席 AI 科学家姚顺雨发出警告 AI 或将掌握生物学 生物类安全风险管控难度高于网络攻击,他建议国内开源大模型厂商重视生物学安全风险,模型发布之前完成生物学方向的安全评估,完善安全配套文档。

【参考资料】

[2026-11-08](腾讯首席 AI 科学家姚顺雨警示:AI 很快掌握生物学,风险高于网络攻击)南华早报 SCMP

[2026-11-09](Tencent's AI Chief Warns Models Will Soon Master Biology)Tech360tv

[2026-11-09](腾讯 Hy4 大模型配套网络与生物安全评估卡片计划)AI Chat Daily

【免责声明】

本文仅整理姚顺雨在学术研讨会公开发言的信息,腾讯首席 AI 科学家姚顺雨发出警告 AI 或将掌握生物学 生物类安全风险管控难度高于网络攻击相关内容仅为专家观点研判,不代表事件已经发生;AI 生物学安全属于前沿风险研究领域,相关评估标准、管控方案仍在持续探索,本文不构成投资、行业决策参考,前沿 AI 安全动态请以企业官方、权威科研机构后续通报为准。

今日大家都在搜的词: