您的位置首页 >人工智能 >

脑损伤失语症模拟实验,揭开大语言模型内部语言处理机制

科研团队借鉴人类中风造成脑损伤、引发失语症的研究思路,在大语言模型里做定点 “损伤” 实验,也就是选择性抹除、扰动模型内部注意力头、前馈网络、特定层参数,观察模型输出语言的缺陷变化,这套方法被叫做病灶可解释性方案,实验证实大模型内部存在自发形成的功能模块化结构,语义、句法、词汇流畅度分别对应不同组件,同时也发现大模型语言机制和人脑语言系统既有相似之处,又存在明显差异。研究团队对照临床标准失语症量表 WAB、TAB 打分,调整扰动强度可以复现不同失语症亚型的典型表现,比如韦尼克失语、布洛卡失语、传导性失语、命名性失语;其中语义类缺陷很容易模拟出来,但是布洛卡失语这类句法、语法组织受损的症状很难完美复刻。实验同时对比稠密 Transformer 和 MoE 混合专家模型,MoE 架构组件隔离度更好,更容易定位单一功能模块,稠密模型内部表征纠缠更重,破坏一个组件会连带影响多项语言能力。这项研究的价值不只是看懂大模型怎么组织语言,还给失语症康复、认知语言学提供了一个可控的数字仿真平台,不过研究人员强调,大模型只是行为层面模拟失语症状,它本身没有真正的认知、意识,不能等同于人类大脑。

本次脑损伤模拟实验核心信息清单

  1. 实验方法:病灶扰动(Lesioning),定点屏蔽 / 修改 LLM 内部组件
  2. 对照标准:西方失语症成套测验 WAB、文本失语量表 TAB
  3. 测试模型:稠密 Transformer、MoE 混合专家模型,包含 Llama、Gemma 等
  4. 可复现症状:韦尼克失语(语义错乱)、传导性失语、命名性失语
  5. 难复现症状:布洛卡失语(句法、语法组织障碍)
  6. 核心结论:LLM 存在自发功能模块,但表征高度纠缠,和人脑语言网络不一样
  7. 技术定位:AI 可解释性新范式,同时作为失语症仿真工具
  8. 局限:仅复刻语言输出症状,模型不存在生物意义上的认知

不同组件损伤对应的典型故障表现

被扰动组件主要故障特征近似对应失语类型
前馈网络 FFN语义替换、用词混乱,听懂但答非所问韦尼克失语
注意力头词汇提取困难、卡顿、找词失败命名性失语
浅层网络句法崩坏、语序错乱、语法残缺布洛卡失语(很难完整复刻)
跨层多组件同时损伤全面语言能力崩塌完全性失语

人脑语言系统 vs 大模型语言机制对比

✅ 相似点

  • 局部定点破坏,会出现特异性、结构化语言缺陷,不是随机乱码
  • 语义、句法、词汇流畅能力存在一定功能分区
  • 损伤程度加重,语言能力逐步衰减,存在梯度变化

⚠️ 关键差异点

  • 人脑分区稳定固定;大模型模块是训练后涌现出来的,不同模型位置不一样
  • 人脑句法中心布洛卡区机制清晰;大模型句法功能分散纠缠,很难单独剥离
  • 人脑具备神经代偿可塑性;普通 LLM 被破坏后不会自主修复

【相关 FAQ】

问题 1:脑损伤模拟揭示大语言模型语言机制,这个实验是怎么给大模型制造 “脑损伤”?

回答 1:脑损伤模拟揭示大语言模型语言机制,研究人员定点扰动、屏蔽大模型的注意力头、前馈网络、单层参数,人为制造病灶,观察语言缺陷变化,不是物理层面破坏硬件。

问题 2:脑损伤模拟揭示大语言模型语言机制,实验能不能完美复刻布洛卡失语?

回答 2:脑损伤模拟揭示大语言模型语言机制,语义类的韦尼克失语比较容易模拟,布洛卡失语代表的句法、语法障碍很难完整复刻,这也是大模型和人脑语言系统的重要差别。

问题 3:脑损伤模拟揭示大语言模型语言机制,MoE 模型和普通稠密 Transformer 在实验里表现有区别吗?

回答 3:脑损伤模拟揭示大语言模型语言机制,MoE 混合专家模型模块隔离度更高,更容易定位单一语言功能;稠密 Transformer 内部信息纠缠严重,扰动后故障扩散范围更大。

问题 4:脑损伤模拟揭示大语言模型语言机制,这项研究除了看懂 AI 还有别的用处吗?

回答 4:脑损伤模拟揭示大语言模型语言机制,这套方案可以作为失语症的数字仿真平台,辅助失语症康复方案测试,同时属于大模型可解释性的新研究路线。

【参考资料】

[2026-11-20](脑损伤模拟揭示大语言模型语言机制)机器之心

[2026-11-20](Brain Researchers Afflict LLMs With injuries Similar To Those Of Stroke Victims)Mirage News

[2026-10-29](Language Impairment as a Lens onto Large Language Models)arXiv

[2026-05-28](Artificial Aphasias in Lesioned Language Models)arXiv

[2026-01-30](Component-Level Lesioning of Language Models Reveals Clinically Aligned Aphasia Phenotypes)arXiv

[2025-09-09](Emergent modularity in large language models: Insights from aphasia simulations)北京大学

【免责声明】

本文信息来自 arXiv 公开论文、机器之心、Mirage News 等科研媒体报道;脑损伤模拟揭示大语言模型语言机制属于前沿学术研究,实验结论还在持续验证,不同模型、不同扰动策略结果会发生变化;大模型失语症模拟仅为输出行为相似,不代表模型具备人脑认知;本文仅做科研资讯整理,不构成医学诊疗、AI 模型选型建议。

今日大家都在搜的词: