微软探索大模型手写权重,不靠反向传播从零搭建可用模型

微软这项新研究的核心思路,是让大模型直接编写神经网络权重代码,抛弃传统反向传播梯度训练方式,从零生成能正常运行的微型 Transformer