您的位置首页 >科技要闻 >

华中科大阿里共建 AI 前沿安全研究中心,主攻大模型安全攻防等课题

华中科技大学和阿里巴巴在 11 月 18 日正式揭牌成立智能攻防与前沿安全联合研究中心,也就是大家常说的 AI 前沿安全研究中心,首期一口气启动 9 个攻关课题,核心方向包含大模型安全攻防、智能体与终端安全、智能化系统软件安全、数据协同隐私保护四大板块,阿里三年投入 1000 万科研经费,这个合作是高校基础研究能力加上阿里真实线上业务场景做产学研结合,专门针对现在 AI 带来的新型隐蔽攻击、模型越狱、深度伪造、智能体越权、隐私泄露这类很难用传统规则防御的安全问题,目标不光是产出学术论文,还要打磨能直接落地的防护技术,同时联合培养 AI 安全方向的专业人才。

一、四大研究方向与首批课题说明

研究方向主要研究内容典型课题举例
大模型安全攻防模型越狱、提示注入、对抗样本、模型后门、红蓝智能体对抗、模型安全评测大模型递归自进化攻防、提示注入检测、模型后门识别
智能体与终端安全AI 智能体越权操作、伪造画面、诱导攻击、终端侧 AI 风险识别图像对抗样本与终端威胁研判,防范智能体伪造屏幕恶意诱导
智能化系统与软件安全国产系统、智能软件漏洞挖掘、AI 驱动漏洞扫描、系统加固OpenHarmony 等国产智能系统漏洞挖掘与防护
数据协同与隐私保护跨业务数据流通、密态计算、隐私泄露防护、数据确权隐私保护关系图谱,做到数据可用不可见、协同不透传

二、双方各自优势分工

  1. 华中科技大学这边:依托国家一流网络安全学院,有黄鹤靶场等攻防实验平台,负责基础理论、算法研究、攻防验证、人才培养,做底层技术创新。
  2. 阿里巴巴这边:拿出电商、云、大模型业务的真实流量和攻击样本,提供产业落地场景、工程化能力,投入科研经费,把实验室方案改成线上能用的防护系统。
  3. 整体模式:联合开题、联合实验、成果共享,打通从靶场验证到线上真实环境部署的链路。

三、项目建设时间规划

  • 短期(1 年内):完成首批 9 个课题的阶段性实验、攻防验证,产出评测工具、检测原型
  • 中期(2 年内):形成标准化 AI 安全检测方案,在阿里业务场景试点落地,发布相关论文、专利
  • 长期(3 年内):形成一套完整智能攻防技术体系,输出行业可用的安全标准、培养一批 AI 安全方向研究生

四、当前要解决的行业痛点清单

  • 传统安全设备只能识别规则内攻击,AI 生成的攻击手法多变,很难拦截
  • 大模型容易被提示词注入诱导越狱,泄露内部信息、生成违规内容
  • AI 智能体拿到权限之后,容易被劫持,私自执行操作、伪造画面欺骗用户
  • 多 App 之间数据互通时,隐私很容易在协同环节泄露,很难管控

【相关 FAQ】

问题 1:华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,这个研究中心正式名称是什么?

回答 1:华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,官方正式名称是智能攻防与前沿安全联合研究中心,大家俗称 AI 前沿安全研究中心。

问题 2:华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,首批课题都覆盖哪些板块?

回答 2:华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,首批 9 个课题覆盖大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护四大板块。

问题 3:华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,阿里巴巴投入多少科研经费?

回答 3:华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,阿里巴巴计划在三年内投入 1000 万元科研经费支撑课题研究。

问题 4:华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,华中科大这边有什么配套平台支撑?

回答 4:华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,华中科大依托国家一流网络安全学院,还有黄鹤靶场这类攻防实验平台,用来开展 AI 攻防验证实验。

【参考资料】

[2026-11-21](华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心,课题覆盖大模型安全攻防等)IT 之家

[2026-11-19](华中科技大学与阿里巴巴共建智能攻防联合研究中心)长江网

[2026-11-19](华中科技大学与阿里巴巴集团成立智能攻防与前沿安全联合研究中心)华中科技大学官网

[2026-11-18](华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心)荆楚网

[2026-11-18](华中科技大学与阿里巴巴共建智能攻防与前沿安全联合研究中心)36 氪

【免责声明】

本文是华中科技大学与阿里巴巴联合成立 AI 前沿安全研究中心相关资讯整理,仅作为行业科普参考;课题成果、落地进度以双方后续发布的论文、技术白皮书为准,不代表相关技术已经商用上线,不构成安全产品采购建议。

今日大家都在搜的词: