标签 > 125B

开源推理框架 Strata 正式登场，借助创新的权重分层调度技术，消费级 12GB 显存显卡就能够本地运行 125B 参数大模型，不用依赖昂贵的