您的位置首页 >数码 >

玩家使用停产傲腾内存、无显卡本地运行 2.8 万亿参数 Kimi K3 AI 模型

有海外发烧友在 Reddit 社区分享了一个很有看点的 DIY 测试项目,在整机不搭载独立显卡、完全依靠 CPU 计算的前提下,使用已经停产的英特尔傲腾持久内存 200 系列,成功跑通总参数 2.8 万亿的 Kimi K3 混合专家大模型。Kimi K3 本身体量巨大,就算做 1bit 极致量化,也需要数百 GB 的内存空间,普通家用 DDR 内存很难凑出这么大的容量,而二手傲腾持久内存可以用更低成本提供超大字节寻址空间,刚好满足模型权重存放需求。整套硬件采用 40 核第三代至强可扩展处理器,软件基于 llama.cpp 推理框架,傲腾内存设置为 App Direct 模式,让程序直接访问傲腾内存地址空间,不是系统自动缓存的 Memory Mode。这套方案虽然跑起来了,但性能短板非常明显,属于技术验证向的实验,并不适合日常使用,同时傲腾模块发热很高,必须做好主动散热,不然很容易过热降频甚至关机。

整套测试硬件清单

  • 处理器:40 核第三代英特尔至强可扩展处理器
  • 内存:傲腾持久内存 200 系列(Optane PMem 200,单条可选 128GB/256GB/512GB)
  • 显卡:无独立显卡,纯 CPU 推理
  • 运行框架:llama.cpp
  • 傲腾工作模式:App Direct 模式

实测性能数据表

量化规格开启 DAX 直通速度关闭 DAX 直通速度补充说明
1bit 量化0.85 token/s1.50 token/s本次测试最优状态
3bit 量化约 0.75 token/s-精度更高,速度进一步下降

项目关键风险点

  1. 散热压力大:傲腾持久内存单条最高功耗 18W,温度到 83℃开始降频,85℃直接保护性关机,玩家额外加装鼓风机对着内存散热。
  2. 推理速度慢:按照 1bit 关闭 DAX 的 1.5token/s 计算,输出长文本耗时极长,5 万 token 内容大约需要 18.5 小时。
  3. 硬件稀缺:傲腾产品线早已停产,只能买到二手拆机模块,没有全新货源,兼容性只适配第三代至强平台。
  4. 仅支持推理:本次只做模型推理测试,无法用这套配置完成大模型训练。

【常见问题】

问题 1:停产傲腾内存无显卡跑 2.8 万亿参数 Kimi K3 AI 模型,这套配置是什么原理?

回答 1:停产傲腾内存无显卡跑 2.8 万亿参数 Kimi K3 AI 模型,是依靠傲腾持久内存超大容量承载量化后的模型权重,使用 llama.cpp 在纯 CPU 下推理,傲腾设置 App Direct 模式给软件直接寻址,不依靠 GPU 显存运算。

问题 2:停产傲腾内存跑 Kimi K3 模型,最快能达到多少 token 速度?

回答 2:停产傲腾内存跑 Kimi K3 模型,1bit 量化并且关闭 DAX 直通时速度最高,实测每秒 1.5 个 token;开启 DAX 直通为 0.85token/s,3bit 量化仅有 0.75token/s。

问题 3:用停产傲腾内存跑 2.8 万亿参数 Kimi K3 AI 模型,普通家用电脑可以直接复刻吗?

回答 3:不可以,停产傲腾内存跑 2.8 万亿参数 Kimi K3 AI 模型仅支持第三代至强服务器平台,普通消费级主板不兼容傲腾持久内存,同时还需要充足散热,门槛很高。

问题 4:Kimi K3 是 2.8 万亿参数模型,为什么用傲腾内存而不是普通 DDR 内存?

回答 4:Kimi K3 是 2.8 万亿参数 MoE 模型,量化后也需要数百 GB 内存,同容量的服务器 DDR 内存成本很高,停产傲腾持久内存二手价格更低,能低成本提供大容量持久内存空间。

【参考资料】

[2026-11-13](不用显卡:玩家靠停产傲腾内存跑起 2.8 万亿参数 Kimi K3 AI 模型)IT 之家

[2026-11-13](不用显卡!一台 40 核老服务器跑起 2.8 万亿参数大模型)太平洋科技

[2026-11-13](用户用停产傲腾内存成功本地运行 2.8 万亿参数 Kimi K3 大模型)中关村在线

[2026-11-12](Homelabber Runs Massive 2.8-Trillion-Parameter AI Model On Discontinued Intel Optane Memory, Without A GPU)Hardware Upgrade

【免责声明】

本文全部硬件配置、实测速度、实验信息均来自海外玩家社区发帖与科技媒体报道,该方案仅属于技术验证实验,不具备商用、日常使用价值;傲腾内存已经停产,二手硬件存在故障率、兼容性、过热损坏风险,复刻测试产生的硬件损坏由操作者自行承担;本文内容不构成硬件采购、DIY 改装建议。

今日大家都在搜的词: