科研团队借鉴人类中风造成脑损伤、引发失语症的研究思路,在大语言模型里做定点 “损伤” 实验,也就是选择性抹除、扰动模型内部注意力头、前馈网络、特定层参数,观察模型输出语言的缺陷变化,这套方法被叫做病灶可解释性方案,实验证实大模型内部存在自发形成的功能模块化结构,语义、句法、词汇流畅度分别对应不同组件,同时也发现大模型语言机制和人脑语言系统既有相似之处,又存在明显差异。研究团队对照临床标准失语症量表 WAB、TAB 打分,调整扰动强度可以复现不同失语症亚型的典型表现,比如韦尼克失语、布洛卡失语、传导性失语、命名性失语;其中语义类缺陷很容易模拟出来,但是布洛卡失语这类句法、语法组织受损的症状很难完美复刻。实验同时对比稠密 Transformer 和 MoE 混合专家模型,MoE 架构组件隔离度更好,更容易定位单一功能模块,稠密模型内部表征纠缠更重,破坏一个组件会连带影响多项语言能力。这项研究的价值不只是看懂大模型怎么组织语言,还给失语症康复、认知语言学提供了一个可控的数字仿真平台,不过研究人员强调,大模型只是行为层面模拟失语症状,它本身没有真正的认知、意识,不能等同于人类大脑。
本次脑损伤模拟实验核心信息清单
- 实验方法:病灶扰动(Lesioning),定点屏蔽 / 修改 LLM 内部组件
- 对照标准:西方失语症成套测验 WAB、文本失语量表 TAB
- 测试模型:稠密 Transformer、MoE 混合专家模型,包含 Llama、Gemma 等
- 可复现症状:韦尼克失语(语义错乱)、传导性失语、命名性失语
- 难复现症状:布洛卡失语(句法、语法组织障碍)
- 核心结论:LLM 存在自发功能模块,但表征高度纠缠,和人脑语言网络不一样
- 技术定位:AI 可解释性新范式,同时作为失语症仿真工具
- 局限:仅复刻语言输出症状,模型不存在生物意义上的认知
不同组件损伤对应的典型故障表现
| 被扰动组件 | 主要故障特征 | 近似对应失语类型 |
|---|---|---|
| 前馈网络 FFN | 语义替换、用词混乱,听懂但答非所问 | 韦尼克失语 |
| 注意力头 | 词汇提取困难、卡顿、找词失败 | 命名性失语 |
| 浅层网络 | 句法崩坏、语序错乱、语法残缺 | 布洛卡失语(很难完整复刻) |
| 跨层多组件同时损伤 | 全面语言能力崩塌 | 完全性失语 |
人脑语言系统 vs 大模型语言机制对比
✅ 相似点
- 局部定点破坏,会出现特异性、结构化语言缺陷,不是随机乱码
- 语义、句法、词汇流畅能力存在一定功能分区
- 损伤程度加重,语言能力逐步衰减,存在梯度变化
⚠️ 关键差异点
- 人脑分区稳定固定;大模型模块是训练后涌现出来的,不同模型位置不一样
- 人脑句法中心布洛卡区机制清晰;大模型句法功能分散纠缠,很难单独剥离
- 人脑具备神经代偿可塑性;普通 LLM 被破坏后不会自主修复
【相关 FAQ】
问题 1:脑损伤模拟揭示大语言模型语言机制,这个实验是怎么给大模型制造 “脑损伤”?
回答 1:脑损伤模拟揭示大语言模型语言机制,研究人员定点扰动、屏蔽大模型的注意力头、前馈网络、单层参数,人为制造病灶,观察语言缺陷变化,不是物理层面破坏硬件。
问题 2:脑损伤模拟揭示大语言模型语言机制,实验能不能完美复刻布洛卡失语?
回答 2:脑损伤模拟揭示大语言模型语言机制,语义类的韦尼克失语比较容易模拟,布洛卡失语代表的句法、语法障碍很难完整复刻,这也是大模型和人脑语言系统的重要差别。
问题 3:脑损伤模拟揭示大语言模型语言机制,MoE 模型和普通稠密 Transformer 在实验里表现有区别吗?
回答 3:脑损伤模拟揭示大语言模型语言机制,MoE 混合专家模型模块隔离度更高,更容易定位单一语言功能;稠密 Transformer 内部信息纠缠严重,扰动后故障扩散范围更大。
问题 4:脑损伤模拟揭示大语言模型语言机制,这项研究除了看懂 AI 还有别的用处吗?
回答 4:脑损伤模拟揭示大语言模型语言机制,这套方案可以作为失语症的数字仿真平台,辅助失语症康复方案测试,同时属于大模型可解释性的新研究路线。
【参考资料】
[2026-11-20](脑损伤模拟揭示大语言模型语言机制)机器之心
[2026-11-20](Brain Researchers Afflict LLMs With injuries Similar To Those Of Stroke Victims)Mirage News
[2026-10-29](Language Impairment as a Lens onto Large Language Models)arXiv
[2026-05-28](Artificial Aphasias in Lesioned Language Models)arXiv
[2026-01-30](Component-Level Lesioning of Language Models Reveals Clinically Aligned Aphasia Phenotypes)arXiv
[2025-09-09](Emergent modularity in large language models: Insights from aphasia simulations)北京大学
【免责声明】
本文信息来自 arXiv 公开论文、机器之心、Mirage News 等科研媒体报道;脑损伤模拟揭示大语言模型语言机制属于前沿学术研究,实验结论还在持续验证,不同模型、不同扰动策略结果会发生变化;大模型失语症模拟仅为输出行为相似,不代表模型具备人脑认知;本文仅做科研资讯整理,不构成医学诊疗、AI 模型选型建议。
