这篇 arXiv 综述《A Survey of LLM-based Text Privacy and Anonymization Methods》系统性梳理了依托大语言模型做文本隐私处理、匿名化的整套技术体系,当下文本数据里姓名、手机号、住址、病历、聊天记录等敏感信息很多,直接喂给 LLM 会造成隐私泄露,传统规则脱敏、NER 脱敏方式容易漏识别、破坏文本语义,很难兼顾可用性和隐私安全,所以这篇综述先明确 LLM 文本隐私与匿名化任务目标,接着按照技术路线对现有方案归类,对比各类 LLM 匿名化方案的实现思路、隐私保护强度、文本保留效用,同时梳理攻击侧的风险手段,比如成员推理、属性推理、信息抽取攻击,最后总结现有方案短板和未来研究方向。整体来看,这份综述适合做数据合规、大模型安全方向的研发人员,快速摸清 LLM 文本隐私与匿名化现有方案边界,挑选适配业务的脱敏方案。
一、LLM 文本隐私与匿名化任务基础说明
- 任务输入:携带个人敏感信息的原始文本(病历、问卷、客服对话、社交文本等)
- 任务目标:移除 / 掩盖文本中的可识别个人信息,降低被重识别风险,同时尽量保留文本语义、结构,保证后续还能用于 LLM 分析、微调
- 两个核心评估维度
- 隐私性:抵抗重识别、属性推理攻击的能力
- 文本效用:匿名之后文本语义、语法、任务性能下降幅度
二、LLM 文本隐私与匿名化主流方法分类
| 方法大类 | 核心思路 | 典型做法 | 优势 | 短板 |
|---|---|---|---|---|
| LLM 驱动实体脱敏 | 调用 LLM 识别敏感实体,替换 / 掩码 | 识别 PII,用占位符替换、同义词替换 | 识别能力强,适配非规范口语文本 | 大模型幻觉,漏检、误删非敏感内容 |
| 差分隐私 LLM 匿名 | 在 LLM 编码、生成阶段加入差分隐私噪声 | DP-prompt、DP 微调、DP 文本生成 | 具备严格隐私理论保障 | 噪声会明显降低文本质量,效用损失大 |
| 文本重写式匿名化 | 让 LLM 复述改写原文,隐去敏感信息 | 指令引导 LLM paraphrase,剥离标识信息 | 自然流畅,不容易留下脱敏痕迹 | 不可控,可能偷偷保留敏感线索,可复现差 |
| 基于 LLM 的对抗净化 | 对抗 prompt、对抗样本训练,擦除隐私特征 | 对抗训练、遗忘微调,抑制 LLM 提取隐私 | 防御隐蔽推理攻击 | 实现复杂,开销高,泛化性有限 |
| 混合方案(规则 + LLM) | 正则、NER 先粗筛,LLM 二次校验、润色 | 规则拦截强标识,LLM 处理模糊敏感表述 | 兼顾速度、准确率,落地成熟 | 复杂隐晦敏感信息依然容易绕过 |
三、综述重点梳理的安全威胁
- 重识别攻击:攻击者从匿名文本里拼接残留特征,反向定位到具体个人
- 成员推理攻击:判断某条原始数据是否在 LLM 训练集内
- 上下文推理泄露:单看文字没有 PII,但结合外部知识库推断身份
- 提示词注入攻击:构造特殊 prompt 诱导 LLM 还原已经匿名的隐私信息
- 分布偏移问题:训练见过的敏感类型识别准,新型敏感表述识别失效
四、现存技术痛点
- 隐私和效用天然矛盾:保护越强,文本可读性、下游任务效果越差
- 缺少统一评测基准:不同论文测试数据集不一样,很难横向对比 LLM 文本隐私与匿名化方案
- 黑盒 LLM 不可控:商用闭源大模型做匿名化,内部行为不可审计
- 多语言、低资源语言的匿名化效果普遍偏弱
- 动态敏感定义:不同地区合规法规对 PII 范围要求不一样
五、未来研究方向(综述展望)
- 可审计、可量化隐私损失的 LLM 文本匿名框架
- 自适应匿名:根据下游任务需求动态调整脱敏强度
- 面向闭源 API 大模型的轻量化隐私加固方案
- 多语言、跨合规标准的 LLM 文本隐私匿名方案
- 防御 prompt 注入、推理攻击的鲁棒匿名算法
【相关 FAQ】
问题 1:LLM 文本隐私与匿名化方法综述主要解决什么问题?
回答 1:LLM 文本隐私与匿名化方法综述汇总各类基于大模型的文本脱敏、隐私保护方案,梳理 LLM 匿名化的优缺点与攻击风险,帮助研究者和工程师选择合规的 LLM 文本隐私与匿名化方案。
问题 2:LLM 文本隐私与匿名化里的重写匿名方案靠谱吗?
回答 2:LLM 文本隐私与匿名化中的文本重写匿名方案生成文本自然流畅,但属于弱保障方案,LLM 有可能在改写文本里隐藏可被推理的隐私线索,不适合高合规等级场景。
问题 3:差分隐私方案在 LLM 文本隐私与匿名化里有什么特点?
回答 3:差分隐私方案在 LLM 文本隐私与匿名化中有严格的数学隐私保证,安全性上限高,但会引入噪声,造成文本语义损失,下游任务效果下滑明显。
问题 4:LLM 文本隐私与匿名化和传统 NER 脱敏有什么区别?
回答 4:传统 NER 脱敏只能识别固定类型实体;LLM 文本隐私与匿名化可以理解上下文,识别隐晦、口语化、间接表达的敏感信息,但存在幻觉误判的风险。
【参考资料】
[2026-06-11](A Survey of LLM-based Text Privacy and Anonymization Methods)arXiv
[2025-12-03](Privacy-Preserving Text Processing with Large Language Models)ACM Computing Surveys
[2025-08-16](A Review of Anonymization and De-identification for LLM Text Data)IEEE Internet of Things Journal
【免责声明】
本文仅基于公开综述文献整理,仅作技术学习参考;LLM 文本隐私与匿名化方案不能直接等同于满足等保、个人信息保护法、HIPAA 等法规要求,正式落地使用前必须做隐私风险评估、合规审计。
