TML开源新模型,循环Transformer架构,笔记本就能跑

TML(Thinking Machines Lab)最新开源的 Inkling 2 Mini,是一款 26B 参数多模态大模型,靠着循环 Transformer 架构做到了兼顾推

TML 开源新模型采用循环 Transformer 架构,普通笔记本可本地运行

全新 TML 开源大模型正式对外发布,它采用创新的循环 Transformer 架构做核心设计,大幅降低了模型运行时对显存、算力的硬性要求,不需