您的位置首页 >人工智能 >

开放 Hy4 权重前,腾讯完成专项安全体检并发布安全评估卡片

腾讯在正式对外放出 Hy4 大模型权重之前,先由玄武实验室、科恩实验室完成了一轮完整安全体检,同步对外发布 Hy4 的 System Card 安全评估卡片,提前把网络安全、生物安全等风险维度的评估结果公开;这次安全审计重点排查模型会不会生成漏洞利用、渗透攻击、生化危害相关内容,训练阶段就做了数据过滤,只保留漏洞修复这类防守类安全数据,去掉攻击性样本,在权重开源、开发者自由部署之前,先把模型的安全边界做清楚,降低开源之后被滥用的风险,Hy4 采用 Apache2.0 协议开放,企业和开发者都能商用二次开发,所以前置安全评估也是负责任开源的关键一步。

Hy4 安全体检核心评估清单

  • 审计团队:腾讯玄武实验室、科恩实验室
  • 网络安全方向:密码分析、逆向工程、漏洞利用、渗透攻击能力专项测试
  • 生物安全方向:生化实验方案、危险合成路径生成能力测试
  • 数据前置过滤:训练集只收录漏洞修复、安全 PoC 防守类内容,剔除漏洞利用、渗透攻击类攻击性数据
  • 评估结论:审计没有发现突出的进攻性风险;生物安全测试 Hy-BioExperimentBench 得分 30.4/100,没有达到高风险区间
  • 交付物:Hy4 模型安全评估卡片 System Card,随权重开源同步对外公开

Hy4 模型基础信息表

项目详情安全相关价值
架构MoE 混合专家架构,总参数 770B,激活 49B大参数开源模型,风险面更广,前置审计更必要
上下文100 万 Token 长上下文长文本场景下更容易被诱导生成危险内容,纳入安全测试
开源协议Apache 2.0支持商用、修改、二次分发,对安全管控要求更高
配套版本Hy4 Flash(224B 参数)同步开放轻量化版本同样遵循这套安全基线
发布平台GitHub、Hugging Face、ModelScope、GitCode多平台分发,扩大开发者触达范围

安全体检与开源上线流程

  1. 模型训练阶段做数据过滤,剥离攻击性安全样本,只保留防守类安全素材
  2. 玄武、科恩实验室开展专项红队式安全审计,测试各类诱导提示词下的输出风险
  3. 整理评估结果,生成标准化 System Card 安全卡片,明确模型能力边界与风险
  4. 确认安全评估完成后,在多个平台同步上线 Hy4 权重包,开放下载部署
  5. 官方提示开发者,拿到权重后,在自己业务侧还要叠加额外的内容安全过滤策略

风险说明

这次安全体检可以降低原生模型主动输出攻击内容的概率,但没办法完全杜绝提示词注入、越狱诱导,开发者拿到开源权重之后,自己部署时依然要加业务侧安全围栏,不能直接裸跑对外提供服务。

【相关 FAQ】

问题 1:腾讯在开放 Hy4 权重之前做的安全体检,主要由哪些团队负责,测了哪些方向?

回答 1:腾讯开放 Hy4 权重之前的安全体检由玄武实验室、科恩实验室负责,重点测试网络安全(漏洞利用、逆向、渗透)和生物安全两大方向,同步核查训练数据的攻击性内容。

问题 2:Hy4 安全体检之后,官方给出的生物安全评估结果是什么?

回答 2:腾讯 Hy4 安全体检里,生物安全采用 Hy-BioExperimentBench 测试,得分 30.4/100,评估结论是没有达到高风险阈值,不容易直接降低生化危害行为的实施门槛。

问题 3:腾讯 Hy4 在安全体检的时候,对训练数据做了什么样的处理?

回答 3:腾讯 Hy4 在安全体检配套的数据治理环节,训练集只保留漏洞修复、防守 PoC 这类安全内容,剔除漏洞利用、逆向、渗透相关的攻击性训练数据,从源头减少模型学习攻击知识。

问题 4:开发者拿到已经完成安全体检的 Hy4 权重,是不是就可以直接对外上线?

回答 4:虽然腾讯在开放 Hy4 权重前完成安全体检,但原生模型依然存在被越狱、提示词注入诱导的风险,开发者拿到权重后,还需要自行增加内容安全过滤、提示词风控,不建议直接裸机对外提供服务。

【参考资料】

[2026-11-20](70B 权重开放前,腾讯先给 Hy4 做了次 “安全体检”)AIbase

[2026-11-20](腾讯混元 Hy4 正式开源,混元 LLM 系列实现全量开放)IT 之家

[2026-11-20](腾讯 Hy4 正式开源,同步发布安全评估卡片)新浪科技

[2026-11-05](混元 Hy4 在网络安全方面采取了哪些负责任的措施)腾讯云开发者社区

【免责声明】

以上内容为腾讯 Hy4 安全体检与开源资讯整理,仅作为大模型安全科普参考,不构成落地部署方案;本次安全体检为腾讯内部专项评估,无法覆盖所有越狱、诱导攻击场景;开发者使用 Hy4 开源权重开展业务,需要自行承担合规与安全责任,详细安全指标以官方 System Card 文档为准。

今日大家都在搜的词: