独立开发者推出 Garlic LLM 开源项目,之所以能让 2013 年初代 PS4 自带的 AMD GCN 老 GPU 离线跑通 90 亿参数的 Qwen3.5-9B 大模型,核心是开发者没有依赖现成通用 AI 框架,自己写底层计算算子,绕开常规图形驱动,直接给 GPU 下发 PM4 指令包,减少中间调度损耗;同时为适配 PS4 仅有的 8GB 统一内存,把模型做了 3bit、4bit 混合量化压缩,压缩后模型占用约 4.5GB,整套流程是先把 PS4 刷到 GoldHEN 自制破解环境,再安装 Garlic LLM 包,加载量化后的大模型,不用外接电脑、不用联网就能对话、写代码、语音交互,在代码生成场景最高跑到 43Token / 秒,在部分入门 PC 上跑同模型速度还不如这台老 PS4。
一、项目与硬件基础清单
- 项目名称:Garlic LLM,开发者 Leonardo Alegría,代码开源
- 主机要求:初代 PS4 / PS4 Slim,固件 11.52,已经破解、装好 GoldHEN 自制系统
- GPU:2013 年 AMD GCN 架构,8GB GDDR5 统一内存
- 运行模型:Qwen3.5-9B(90 亿参数)
- 模型压缩方案:3/4bit 混合量化,模型本体约 4.5GiB,完整安装包 5.66GB
- 上下文窗口:最高 16000 token
- 运行模式:纯本地离线,不需要联网、不需要 PC 转接
二、实测速度数据表
| 场景 | 生成速度 | 备注 |
|---|---|---|
| 普通文本对话 | 31~39 Token/s | 日常问答、文案生成 |
| 代码生成 | 最高 43 Token/s | 本次测试里速度最优场景 |
| 带语音交互 | 约 22 Token/s | 包含语音识别 + TTS 语音合成 |
三、核心技术亮点
- 不走 llama.cpp、Vulkan 常规路线,自研 OpenCL C 计算内核,直接和 GPU 通信,砍掉驱动层开销
- 复用 PS4 的 Garlic 内存区域,专门优化大模型矩阵运算,充分利用内存带宽
- 整套语音链路也本地化,支持多语种听写和语音朗读,手柄按键控制语音输入
- 直接在 PS4 自制系统里运行,不用装 Linux 系统,普通玩家装好 PKG 包就能启动
四、明显的局限
- 必须破解主机,正版 PS4 无法使用这个项目
- 上下文窗口被压缩到 16k,不能读取超长文档、长书稿
- 只是对比部分低配 PC 更快,搭配中端、高端独显的 PC 跑同模型速度依旧领先
- 散热、功耗、稳定性不如 PC 显卡,长时间连续推理容易降速
【常见问题】
问题 1:破解版 PS4 靠 2013 年老 GPU 本地跑 90 亿参数 AI,真的比 PC 更快吗?
回答 1:是限定场景下的对比,破解版 PS4 在代码生成场景最高 43Token/s,比一些没有独显、用 CPU 跑模型的入门 PC 更快;但有中端独显的 PC 跑同款 90 亿参数 AI,速度会明显超过这台 PS4 老 GPU。
问题 2:想要在 PS4 上用 Garlic LLM 跑 90 亿参数 AI,需要什么条件?
回答 2:需要一台固件 11.52 的初代 PS4 或者 PS4 Slim,并且完成破解、安装 GoldHEN 自制系统,再下载 Garlic LLM 安装包,主机预留足够存储空间,正版未破解 PS4 不能运行这个本地 AI 项目。
问题 3:PS4 的 2013 年老 GPU 跑 90 亿参数 AI,能不能脱离网络独立使用?
回答 3:可以,这套 Garlic LLM 方案是完全离线本地推理,90 亿参数 AI 模型、语音识别、语音合成全部跑在 PS4 老 GPU 上,不需要连接互联网,也不用另外一台 PC 辅助计算。
问题 4:这个 2013 年 PS4 老 GPU 跑 90 亿参数 AI 的方案,普通玩家值得折腾吗?
回答 4:适合喜欢折腾硬件、玩自制主机的极客玩家,当作趣味实验;它有上下文限制、稳定性一般,而且破解主机有风险,不适合用来作为主力本地 AI 工具。
【参考资料】
[2026-11-17](2013 年老 GPU 别扔!破解版 PS4 本地跑 90 亿参数 AI 比 PC 还快)快科技
[2026-11-17](Jailbroken PS4 runs 9-billion-parameter AI model at up to 43 tokens per second)Tom's Hardware
[2026-11-16](越狱 PS4 成功本地运行 90 亿参数大模型,Garlic LLM 开源发布)IT 之家
[2026-11-16](Garlic LLM:PS4 离线跑通 Qwen3.5-9B,支持语音对话)Hugging Face 项目资讯
【免责声明】
本文仅为开源硬件项目资讯整理,不鼓励、不引导主机破解;破解 PS4 会违反索尼用户协议,存在变砖、封号、安全风险;PS4 老 GPU 跑 90 亿参数 AI 的测试成绩为开发者自测数据,不代表通用性能基准;该项目仅适合技术爱好者研究,不适合商用、主力生产使用。
