混合架构大模型里,两种记忆机制在悄悄打架

现在很多混合架构大模型同时带上两种记忆通路,分别是注意力 KV 记忆、SSM 循环 latent 压缩记忆,直接简单叠加在一起训练的时候,