北航人工智能学院教授沙磊在受访时提出一个和大众直觉不一样的判断，大模型幻觉很难做到彻底根除，而且随着模型学的知识越来越多、覆盖场景越来越广，想要清晰划清 “知道什么、不知道什么” 这件事反而会变得更难，他长期深耕可信大模型、可解释 AI、幻觉治理方向；在他看来，行业现在不应该把全部目标放在彻底消灭幻觉上，更务实的路线是区分普通幻觉和有害幻觉，优先在医疗、法律、工业这类高风险场景把幻觉带来的实际伤害压下去，就算模型能力持续变强，也必须建立一套机制让 AI 主动亮出自身边界，而不是一直给出自信满满的编造内容，同时他也提到，对比早年 AI 经常直白承认不懂，现在大模型能力变强之后，更容易在自己不掌握信息的时候强行生成一套看起来通顺、但是没有事实支撑的答案。
一、核心观点拆解
1. 为什么知识越多，边界越模糊
大模型是靠海量文本统计规律学习，不是像人类一样建立明确的 “知识库索引”。当模型吸收的事实、案例、专业资料持续增加，相似概念、相近人名、相近数据会互相缠绕，模型很难精准判断哪部分内容是确定可靠、哪部分只是关联猜测。
- 模型的底层逻辑：优先输出流畅、符合语言习惯的文本，而不是先判断 “我有没有这个信息”。
- 规模带来的副作用：能力越强，用户对它的期待越高，也更容易在长尾冷门问题上强行作答。
- 直观对比：早期能力弱的 AI，遇到不懂的内容会直接回复不知道；现在大模型更容易自信地编造文献、数据、案例。
2. 幻觉分类：重点盯住 “有害幻觉”
沙磊把幻觉分成两类，治理优先级完全不一样。
- 普通幻觉：闲聊、创意写作、文案润色这类低风险场景，就算出现小错误，不会造成人身、财产损失，容忍度更高。
- 有害幻觉：医疗诊断建议、法律条文引用、工程参数、金融测算、资质证明等场景，一旦编造信息，会直接带来严重后果，是治理的重中之重。
他的核心主张：放弃追求零幻觉，把资源倾斜到阻断有害幻觉。
3. 幻觉治理不是单一方案，是组合手段
目前行业里常用的几条路线，沙磊也给出了对应的利弊判断。
- RAG 检索增强：接入外部权威资料库，生成答案前先检索引文，是现阶段落地最广的方案；短板是如果检索源本身有错，或者检索匹配出错，照样会带着错误信息生成回答。
- 对抗调优、多智能体校验：用另一个模型去核查主模型输出，做交叉校验；成本高，很难在轻量化端侧模型普及。
- 不确定性标注：模型输出的时候同步标注置信度，告诉用户哪些结论可靠、哪些只是推测；难点在于模型自己很难精准评估自己到底懂不懂。
- 场景隔离：高风险场景不允许模型独立给出最终结论，只能作为辅助工具，最终决策交给专业人员。
4. 高风险场景定位：AI 是助手，不能替代人
以医疗为典型例子，AI 可以做病历整理、初筛、资料检索、辅助参考，但是不能独立给出诊断方案；任何关键结论都要由专业从业者复核。这套思路同样适用于工业、法务、金融审计等高要求领域，通过人机分工，把幻觉风险拦截在最终决策之前。
二、行业现状对比简表
| 阶段 | AI 特点 | 幻觉表现 | 边界识别能力 |
|---|---|---|---|
| 早期小模型 | 知识储备有限，指令能力弱 | 答不上来就直接说不懂 | 相对清晰，不知道就拒绝输出 |
| 当前主流大模型 | 知识面广，擅长生成流畅文本 | 不懂也会编造，自信度高 | 边界模糊，分不清事实和猜测 |
| 未来方向 | 更大规模、多模态、智能体 | 长尾幻觉持续存在 | 依靠外部校验、置信标注人为划定边界 |
三、这条观点对开发者和普通用户的实际提示
- 模型研发团队：不要把宣传重点放在 “消灭幻觉”，优先做风险分级、溯源引文、置信提示；能力扩容的同时，配套边界提示机制。
- 企业落地方：高垂类业务一定要接入权威数据源，并且保留人工复核流程，不能直接把模型输出当成最终定论。
- 普通使用者：越是专业、重要的问题，越不能直接采信 AI 结果，优先核对原始文献、官方文件、专业人士意见；流畅不等于正确。
- 行业评估标准：评测幻觉不能只看通用问答正确率，要单独把高风险场景拿出来做专项测试。
【常见问题】
问题 1：按照北航沙磊的说法，大模型幻觉能不能彻底消除？
回答 1：沙磊认为很难指望大模型幻觉彻底消除，模型知道的信息越多，划定能力边界就越困难；行业更合理的目标不是清零幻觉，而是控制有害幻觉，降低幻觉在关键场景带来的损失。
问题 2：为什么大模型学到的知识越多，幻觉边界反而更难划清？
回答 2：大模型依靠文本统计关联学习，没有严格的事实索引，知识量上涨之后大量相似信息互相混淆，模型很难区分哪些内容是确定事实、哪些只是推测，并且模型倾向优先生成通顺文本，遇到不懂的内容也容易强行作答。
问题 3：沙磊提到的有害幻觉，一般会出现在哪些场景？
回答 3：有害幻觉主要集中在医疗、法律、工程参数、金融测算这类场景，一旦大模型编造相关信息，容易带来人身、财产风险，也是幻觉治理优先管控的方向；闲聊、创意类场景的普通幻觉容忍度更高。
问题 4：想要降低大模型幻觉风险，按照沙磊的思路最合适的做法是什么？
回答 4：优先做场景隔离，高风险场景只把大模型当成辅助工具，最终由人决策；同时搭配检索增强、交叉校验、置信标注等手段，给 AI 增加边界提示，区分可靠结论和猜测内容。
【参考资料】
[2026-11-13]（大模型幻觉难以完全消除，北航沙磊：AI 知道得越多，边界越难划清）腾讯新闻
[2026-11-13]（大模型幻觉治理新思考：不追求清零，优先阻断有害幻觉）时代周报
[2026-11-13]（北航沙磊：可信大模型的核心难题，是模型自知边界）东方财富网
[2024-07-10]（北航沙磊：Agentic RAG 与对抗校验如何缓解幻觉）36 氪
【免责声明】
本文整理内容来自媒体对北航沙磊教授的采访转述，仅作为 AI 产业学术观点资讯参考，不代表所有科研人员共识；幻觉技术方案、评测标准仍处在持续研究迭代阶段，垂类业务落地请配套独立核验机制，不要直接将模型输出作为决策唯一依据。