开发者 Leonardo Alegría 发布开源项目 Garlic LLM,让已经越狱、搭载 GoldHEN 自制系统的 PS4 主机,在不联网、不外接电脑的条件下,本地跑通 90 亿参数的 Qwen3.5-9B 大语言模型,普通文字对话速度稳定在每秒 31~39 token,代码生成最高可达每秒 43 token,在 2013 年的老旧 AMD GCN 架构主机上实现了可用的离线 AI 对话能力。PS4 整机只有 8GB CPU 与 GPU 共享内存,想要放下 9B 模型难度很高,开发团队采用 3bit+4bit 混合量化方案,把模型权重压缩到 4.5GiB,同时注意力缓存也做 4bit 量化,上下文窗口限制在 16000token,整套程序包合计 5.66GB,能够放进主机存储空间。这个方案没有用 llama.cpp 或者 Vulkan 常规移植路线,直接用 OpenCL C 编写计算内核,绕开官方驱动层,直接向 GPU 下发底层 PM4 指令,充分调动 PS4 的 GCN 显卡算力,还搭配 Chatterbox 语音模型,支持 7 种语言语音对话,0.6B 小模型可以实现 25 种欧洲语言听写。测试机型是 11.52 固件版本的标准版 PS4 和 PS4 Slim,PS4 Pro 因为内存更大,还有机会尝试更大参数模型。
Garlic LLM 项目基础清单
- 项目名称:Garlic LLM
- 主模型:Qwen3.5-9B(90 亿参数)
- 运行前提:越狱 PS4,安装 GoldHEN 自制系统,固件 11.52
- 测试机型:标准版 PS4、PS4 Slim
- 模型包大小:5.66GB
- 量化方式:3bit/4bit 混合量化
- 模型占用:约 4.5GiB
- 上下文长度:16k token
- 对话性能:31–39 token/s,代码生成最高 43 token/s
- 附加能力:语音听写、语音对话
- 语音模型:Chatterbox(0.6B 识别模型)
- 部署渠道:Hugging Face 开源,PS4 包管理器安装
核心技术优化点
- 内存压缩:混合量化降低权重体积,解决 PS4 8GB 共享内存瓶颈
- 底层 GPU 调度:自研 OpenCL C 内核,绕过官方驱动,直接操控 GCN GPU
- 多 token 预测:借助 Qwen3.5 原生多 token 预测头,一次预生成多个 token 再校验,提升推理速度
- 分工架构:CPU 负责分词、界面、音频处理,GPU 承担矩阵运算
功能能力清单
- 离线文字对话、问答、代码编写
- 手柄按键触发语音输入听写
- 7 种语言语音对话输出
- 支持 25 种欧洲语言识别
局限说明
- 仅越狱主机可用,正版未破解 PS4 无法运行
- 上下文窗口被压缩到 16k,远小于原版 Qwen3.5
- 推理速度对比 PC 显卡偏慢,适合技术演示、离线轻量问答,不适合高强度 AI 工作
- 不包含越狱漏洞,项目本身只是自制 LLM 程序
【常见问题】
问题 1:越狱 PS4 成功本地运行 90 亿参数大模型,这个项目叫什么名字,用的是哪个大模型?
回答 1:越狱 PS4 成功本地运行 90 亿参数大模型,项目名称是 Garlic LLM,采用的主模型是阿里开源 Qwen3.5-9B,也就是 90 亿参数版本。
问题 2:越狱 PS4 成功本地运行 90 亿参数大模型,PS4 内存只有 8GB,是怎么装下这个模型的?
回答 2:越狱 PS4 成功本地运行 90 亿参数大模型,采用 3bit 和 4bit 混合量化压缩权重,模型本体占用约 4.5GiB,注意力缓存同步量化,适配 PS4 8GB 共享内存。
问题 3:越狱 PS4 成功本地运行 90 亿参数大模型,对 PS4 主机有什么硬性要求?
回答 3:越狱 PS4 成功本地运行 90 亿参数大模型,主机必须完成越狱,安装 GoldHEN 自制系统,固件版本为 11.52,正版未破解 PS4 无法运行 Garlic LLM。
问题 4:越狱 PS4 成功本地运行 90 亿参数大模型,这个大模型推理速度、附加功能有哪些?
回答 4:越狱 PS4 成功本地运行 90 亿参数大模型,文字对话 31~39 token/s、代码最高 43 token/s,还搭配语音模型,支持 7 种语言对话、25 种欧洲语言听写。
【参考资料】
[2026-11-16](越狱 PS4 成功本地运行 90 亿参数大模型)网易 IT 时代网
[2026-11-16](Jailbroken PS4 runs 9-billion-parameter AI model at up to 43 tokens per second)Tom's Hardware
[2026-11-16](Garlic LLM:开发者在 PS4 离线跑通 Qwen3.5-9B)Hugging Face 项目页
[2026-11-16](Взломанная PlayStation 4 запустила ИИ-модель на 9 млрд параметров без интернета)Компьютерра
[2026-11-15](Garlic LLM: Developer Runs Offline AI Chatbot on Original PS4)Indie Kings
【免责声明】
本文仅整理开源项目与海外媒体公开资讯,PS4 越狱会破坏主机保修、违反索尼用户协议,存在变砖、系统安全风险;Garlic LLM 仅用于技术研究演示,不鼓励、不支持主机破解操作,模型输出内容不保证准确。
