开发者 WollyMonjac 打造出一款名叫 Tiny 2.1 的微型 Transformer 问答模型,整个程序和模型文件体积很小,可以直接放进一张 1.44MB 标准软盘里,还能在 DOS 系统的 486DX、Pentium 老式电脑上直接运行,是一次很有意思的复古 AI 技术实验。现在主流 Transformer 大模型动不动就几个 GB、几十 GB,对显卡、内存要求很高,而软盘本身存储空间仅有 1.44MB,想要把 Transformer 架构的模型放进去,必须做极致压缩;开发者选用 Turbo C 2.0 编写代码,采用 8 位量化压缩权重,把参数量控制在 36.7 万,模型权重仅 380KB,整机运行只需要 540KB 内存,训练素材只有 3500 条事实问答数据,以此实现极低的资源占用。要注意它不是通用大语言模型,只是轻量化问答 Transformer,能力有限,适合技术爱好者研究模型下限、复古硬件调试。
一、Tiny 2.1 核心参数表
| 项目 | 参数详情 |
|---|---|
| 模型名称 | Tiny 2.1 |
| 架构 | 微型 Transformer,4 层结构,隐藏维度 96 |
| 参数量 | 36.7 万 |
| 模型权重大小 | 380KB(8 位量化) |
| 运行内存需求 | 540KB |
| 开发语言 | Turbo C 2.0 |
| 支持系统 | MS-DOS |
| 适配硬件 | Intel 486DX、Pentium 老式 PC |
| 训练数据 | 3500 条事实问答,同一条事实多问法训练 |
| 额外功能 | PC 扬声器语音朗读输出 |
二、模型运行操作步骤
- 准备一张 1.44MB 软盘,写入 Tiny 2.1 全套程序和模型文件。
- 在搭载 DOS 系统的 486DX 或者 Pentium 老电脑上插入软盘。
- 在 DOS 命令行切换到软盘盘符,启动程序。
- 输入问题,模型逐字符生成回答,支持 PC 喇叭朗读文字。
- 实验结束后退出程序,释放内存。
三、项目价值与局限
✅ 价值:验证 Transformer 架构的下限,证明 Transformer 不一定需要庞大算力,给轻量化、嵌入式 AI 研发提供参考,复古硬件爱好者可以体验 AI 在老式设备上运行。
❌ 局限:它不是通用 LLM,知识库很小,很容易出现回答错误、编造信息,无法做复杂推理、长文本创作。
【相关 FAQ】
问题 1:软盘里面的微型 Transformer 模型叫什么名字?
回答 1:软盘里面的微型 Transformer 模型叫 Tiny 2.1,由开发者 WollyMonjac 开发,属于问答类型的微型 Transformer。
问题 2:这款微型 Transformer 模型为什么能塞进软盘?
回答 2:这款微型 Transformer 模型做了极致轻量化设计,参数量只有 36.7 万、采用 8 位量化,模型权重仅 380KB,整套文件远小于 1.44MB 软盘容量,同时代码用 Turbo C 2.0 精简编写。
问题 3:软盘里的微型 Transformer 模型可以在普通 Windows 电脑直接跑吗?
回答 3:软盘里的微型 Transformer 原生面向 MS-DOS,优先适配 486DX、Pentium 老式电脑;普通 Windows 电脑需要 DOS 模拟器才可以运行。
问题 4:软盘上的微型 Transformer 模型和我们常用的大模型能力一样吗?
回答 4:软盘上的微型 Transformer 模型和主流大模型差距很大,它只训练了 3500 条事实问答,知识库有限,容易输出错误内容,仅适合技术实验,不适合日常通用对话。
【参考资料】
[2026-11-22](开发者将微型 Transformer 模型塞进软盘,让 486 老电脑也能用上 AI)IT 之家
[2026-11-22](A 367k-parameter transformer on a floppy disk)iXBT
[2026-11-21](We’ve Found the Only Good AI Chatbot: One So Tiny It Fits on a Single MS-DOS Floppy Disk)Futurism
[2026-11-18](Tiny Language Model Fits On Floppy Disk: Breakthrough AI)Techswire
[2026-11-15](A DOS language model built with Claude fits on a 435 KB floppy)pasqualepillitteri.it
【免责声明】
本文内容为微型 Transformer 模型 Tiny 2.1 的技术实验资讯,该模型能力有限,不适合生产、商用场景;模型代码、运行效果、硬件兼容性以 GitHub 项目原版为准,本文不提供模型下载、编译、调试技术支持。
