OpenAI 正式对外发布一款面向合规机构的免费图像分类器,专门用来识别疑似儿童性虐待材料(CSAM),它不光能识别已经存入库里的传统实拍违规图像,还支持识别新生成、AI 生成的同类违规图片,通过 API 方式向审核机构、非营利组织、平台安全团队开放,申请审核通过之后即可免费调用,用来补齐传统哈希比对方案只能识别已知样本、很难识别全新 AI 生成违规图的短板,工具本身不面向普通个人用户开放,拿到访问权限的机构标记可疑内容后,依然需要人工复核,并且按照当地法规向儿童保护机构上报。过去行业里主流方案大多是哈希匹配,相当于给违规图片做指纹,只匹配数据库里已经登记过的样本,一旦坏人用 AI 生成全新的、没有入库的违规图,就很难识别出来,这个新分类器靠图像特征做风险判断,对未收录的新型样本有识别能力,作为现有内容审核体系的补充工具使用。
图像分类器核心信息清单
- 工具名称:OpenAI CSAM Image Classifier
- 开放方式:API 调用,免费使用,需要提交申请、资质审核
- 识别范围:实拍 CSAM 图像、AI 生成的疑似 CSAM 图像
- 面向对象:合规平台、非营利儿童保护机构、内容审核团队
- 不开放对象:普通个人用户
- 配套要求:AI 标记仅为风险提示,不能直接当作判定结论,必须人工复核
- 上报机制:发现确认违规内容,按法规向 NCMEC 等对应儿童保护机构提交报告
新分类器与传统哈希比对方案对比
| 方案 | 识别原理 | 优势 | 短板 |
|---|---|---|---|
| CSAM 图像分类器 | 图像特征分类,AI 推理识别 | 可识别全新、AI 生成的未入库样本 | 存在误报,必须人工复核 |
| 哈希指纹匹配 | 比对图片数字指纹库 | 速度快、误报低,适合存量已知违规图 | 无法识别不在数据库里的新图 |
工具使用流程
- 机构提交资质申请,向 OpenAI 提交使用意向
- OpenAI 审核机构资质、使用场景,审批通过后开放 API 接入权限
- 机构批量上传图像,分类器返回风险打分、疑似标记结果
- 审核人员人工复核标记图片,确认是否属于违规材料
- 确认违规之后,按当地法律要求上报儿童保护相关机构
- 全程留存访问日志,用于合规审计
风险与边界说明
- 不是 100% 精准,存在误判、漏判,不能替代人工审核
- 仅用于儿童安全防护场景,禁止挪作其他图像审查用途
- 有严格的使用审计,违规使用会被直接收回权限
- 不提供图片存储服务,图像数据由接入机构自行管理
【常见问题】
问题 1:OpenAI 发布免费图像分类器识别儿童虐待材料,普通个人可以直接拿来上传图片检测吗?
回答 1:OpenAI 发布免费图像分类器识别儿童虐待材料,这个工具只对通过资质审核的机构开放,不对普通个人用户开放,个人无法直接申请使用。
问题 2:OpenAI 这款识别儿童虐待材料的免费图像分类器,能不能识别 AI 生成的违规图片?
回答 2:OpenAI 这款识别儿童虐待材料的免费图像分类器,支持识别 AI 生成的疑似儿童虐待材料,弥补传统哈希方案识别不了全新 AI 生成图的短板。
问题 3:OpenAI 免费图像分类器识别儿童虐待材料,标记出来之后是不是就可以直接判定图片违规?
回答 3:OpenAI 免费图像分类器识别儿童虐待材料,分类器输出只是风险标记,不能直接作为判定结论,所有标记图片都必须经过人工复核确认。
问题 4:OpenAI 发布免费图像分类器识别儿童虐待材料,使用这个工具需要付费吗?
回答 4:OpenAI 发布免费图像分类器识别儿童虐待材料,工具本身免费,但是机构需要提交资质申请,通过 OpenAI 的审核之后才能拿到 API 调用权限。
【参考资料】
[2026-11-17](OpenAI 推出免费图像分类器,识别儿童虐待材料,含 AI 生成内容)新浪财经
[2026-11-16](OpenAI CSAM Image Classifier Model Card)OpenAI 官方安全中心
[2026-11-16](OpenAI 推出 CSAM 图像检测 API,助力平台识别 AI 生成虐待图像)机器之心
[2026-11-16](OpenAI releases free CSAM classifier for approved organizations)TechCrunch
【免责声明】
本文信息来自 OpenAI 官方文档、海外科技媒体报道,该儿童虐待材料图像分类器仅作为辅助审核工具,识别结果存在误报漏报风险,相关机构使用时必须遵守所在地数据、儿童保护相关法律法规,内容仅作为 AI 安全行业资讯参考,不构成合规审核方案指导。
