底层物理视角下大模型架构的设计思考

从底层物理、芯片硬件方向从业者的角度来看,现在主流大模型架构不能只从算法、数学层面去设计,必须把内存墙、功耗、信号传输、器件物理特