孵化自北大软件工程研究所的硅心科技 aiXcoder 正式开源 aiXcompact-4B，这款专门面向编程 Agent 的 4B 参数量上下文压缩模型，核心价值就是用低成本小模型承接长任务历史上下文精简工作，在 Terminal-Bench 基准测试里，接入 OpenCode 之后任务完成准确率和 DeepSeek-V4-Pro 持平，私有化 GPU 推理成本相比后者降低 78%，API 调用成本直接下降 97%；很多编程 Agent 长期跑任务时，历史记录、工具返回、代码读取信息不断堆积，Token 开销越滚越大，之前大家习惯直接调用大模型做压缩，压缩本身的开销就很高，这套方案把压缩任务剥离给轻量化专用模型，既保留关键信息，又大幅压低压缩环节和后续推理的总成本，落地路径就是把它接入 Agent 框架，自动清洗无效历史、输出结构化摘要，再把压缩后的上下文传给主模型。
一、aiXcompact-4B 基础参数和成本对比
| 项目 | 详细信息 |
|---|---|
| 模型名称 | aiXcompact-4B |
| 参数量 | 4B |
| 开发主体 | 硅心科技 aiXcoder（北大软件工程研究所孵化） |
| 适用场景 | 编程 Agent 长任务上下文压缩 |
| 部署门槛 | 单张 A100-40GB 显卡即可私有化部署 |
| 平均压缩效果 | 历史上下文压缩至原长度 25.89% |
| 私有化推理成本 | 相比 DeepSeek-V4-Pro 下降 78% |
| API 调用成本 | 单次压缩 0.019 元，对比主流大模型下降约 97% |
| 开源属性 | 开源，可直接获取权重、代码 |
二、它的压缩逻辑，和通用大模型压缩有什么不一样
主流 Agent 框架比如 Claude Code、OpenCode，传统做法是直接调用一个强能力通用大模型，一边做任务一边压缩历史对话，压缩本身就要消耗大量 Token，成本很贵。
aiXcompact-4B 是专门针对编程 Agent 轨迹训练的，处理逻辑固定分成几步：
- 识别工具返回内容：文件读取、代码搜索、单元测试输出、报错日志
- 区分信息价值：保留代码路径、关键报错、修改记录、需求约束这类核心信息
- 删除冗余内容：重复打印、无效日志、已经完成的中间步骤、过期的临时结果
- 输出结构化摘要：整理成规整的任务进度记录，方便下游主模型读取
- 同步控制压缩力度，不会因为过度压缩丢失影响后续开发的关键细节
三、核心收益拆解
- 压缩后下游 Token 变少
- 压缩本身的开销极低
- 任务效果不打折
- 部署门槛友好
原始长上下文被压缩到原来约四分之一，后续每一轮给主模型的输入 Token 大幅减少，持续降低主模型调用费用。
4B 小模型推理成本低，不管是私有化部署还是 API 调用，压缩环节不再是成本负担，解决了 “压缩花的钱，比省下的钱还多” 的痛点。
在 Terminal-Bench 测试集上，整体任务成功率和直接用 DeepSeek-V4-Pro 做压缩的版本持平，不是靠牺牲准确率换低价。
不需要多卡集群，单张 A100 40G 就能跑，适合中小团队、独立开发者本地部署接入自己的 Agent。
四、适合接入的场景和不适合的场景
✅ 适合场景
- 长期运行的编程 Agent，持续多轮改代码、调试、跑测试
- 私有化部署的自研代码智能体，需要控制 GPU 算力成本
- 高频调用、会话轮次很长的开发任务，Token 账单压力大
- OpenCode、自研 Agent 框架，想低成本替换原有压缩模块
❌ 不太适合场景
- 通用对话、文案创作这类非编程类上下文压缩（它是编程 Agent 专项模型）
- 超复杂长文本理解、文档问答，这类场景优先选通用长上下文压缩方案
五、接入落地简单步骤
- 拉取开源仓库，拿到 aiXcompact-4B 权重与推理代码
- 准备单卡 A100-40GB 或者对应算力环境，完成模型部署
- 在 Agent 框架里增加前置路由：每一轮对话结束后，把历史上下文送入 aiXcompact-4B
- 接收压缩后的结构化上下文，替换原来的原始历史，再传给主模型执行任务
- 开启监控，统计压缩比例、任务成功率、Token 消耗，微调压缩策略
- 灰度上线，对比改造前后的成本、失败率，稳定后全量启用
【常见问题】
问题 1：aiXcompact-4B 这款 4B 上下文压缩模型，推理成本降 78%、API 成本降 97% 是怎么实现的？
回答 1：aiXcompact-4B 是专门给编程 Agent 训练的 4B 轻量化上下文压缩模型，用专用小模型承接历史轨迹精简任务，替代通用大模型做压缩；模型本身参数量小、推理算力消耗低，同时把长上下文压缩到原长度 25.89%，减少下游主模型 Token 开销，最终实现私有化推理成本降 78%、API 调用成本降 97%。
问题 2：aiXcompact-4B 这个 4B 上下文压缩模型，压缩之后编程 Agent 任务效果会不会变差？
回答 2：在 Terminal-Bench 基准测试中，接入 aiXcompact-4B 做上下文压缩之后，编程 Agent 整体任务完成准确率和使用 DeepSeek-V4-Pro 做压缩的版本持平，在保证关键代码、报错信息、需求约束不丢失的前提下做精简，不会明显降低任务效果。
问题 3：aiXcompact-4B 4B 上下文压缩模型，对硬件有什么部署要求？
回答 3：aiXcompact-4B 4B 上下文压缩模型支持单张 A100-40GB 显卡私有化部署，不需要多卡集群，硬件门槛比较低，适合中小团队本地部署接入自己的编程 Agent。
问题 4：aiXcompact-4B 这个 4B 上下文压缩模型，能不能用来做普通聊天、文案场景的上下文压缩？
回答 4：不推荐，aiXcompact-4B 是面向编程 Agent 轨迹专项训练的上下文压缩模型，擅长处理代码、日志、工具返回记录；在通用对话、文案场景下，压缩效果和泛化能力不如通用型上下文压缩模型。
【参考资料】
[2026-11-11]（推理成本降 78%，API 成本降 97%，北大系创企开源 4B 上下文压缩模型）智东西
[2026-11-11]（推理成本直降 78%!aiXcoder 开源 aiXcompact-4B 模型，接手 Agent 上下文压缩任务）投资界
[2026-11-11]（单卡部署、推理成本直降 78%，aiXcoder 开源 aiXcompact-4B 上下文压缩模型）北晚在线
[2026-11-11]（aiXcoder 开源 aiXcompact-4B 上下文压缩模型，面向编程 Agent 降本）腾讯新闻
免责声明：本文仅为 aiXcompact-4B 上下文压缩开源模型的技术科普，不构成落地部署、商业采购建议；文中成本下降数据来自厂商公开基准测试，实际成本、压缩效果、任务成功率会受 Agent 框架、业务任务、硬件环境影响，上线前建议自行做对照测试。