无显卡 40 核老旧服务器本地运行 2.8 万亿参数大模型,傲腾持久内存为核心方案

技术爱好者在 Reddit 社区放出实测案例,在完全不搭载 GPU 显卡的 40 核第三代至强老旧服务器上,成功跑通 2 8 万亿参数的 Kimi