商汤正式推出 SenseNova Loop-9B 大模型,这款模型采用循环 Looped Transformer 架构搭配流形约束超连接 mHC 技术,只有约 9B 物理参数,依靠参数复用的方式提升有效计算深度,4bit 量化之后权重仅 4.9GB,整机部署显存需求可以控制在 10GB 以内,支持图文输入,最大上下文达到 512K tokens,主打 Agent 智能体、代码编写、数据分析、多模态推理任务,官方评测表现对标 27B 级别大模型,普通消费级显卡、边缘设备也有机会本地跑起来,大幅降低本地私有化部署的硬件门槛。
一、SenseNova Loop-9B 核心参数表
| 项目 | 规格信息 |
|---|---|
| 物理参数量 | 约 9B |
| 架构 | Loop 循环 Transformer + mHC 流形约束超连接 |
| 解码层设计 | 32 个物理解码层,循环执行后合计 56 次层计算 |
| 量化显存 | 4bit 量化权重约 4.9GB,整体部署显存≤10GB |
| 输入输出 | 文本 + 图像输入,文本输出 |
| 上下文窗口 | 最高 512K tokens |
| 主打场景 | Agent 工具调用、代码生成、数据分析、长文档推理、多模态理解 |
| 对标水平 | 官方评测接近 Qwen3.8-27B |
二、架构原理简单说明
- 参数复用循环结构:中间的解码模块重复跑两次,权重不重复存储,用增加计算步数的方式,在不增加参数量、不暴涨显存占用的前提下,提升模型深度和推理能力。
- mHC 流形约束超连接:优化循环过程里的信息传递,避免多次循环之后信号衰减、特征错乱,保证长上下文、复杂推理任务稳定输出。
- 路线区别于传统模型:传统提升能力大多直接堆参数,这款模型走 “重计算深度、控显存开销” 的路线,更适合本地端侧部署。
三、实测与评测亮点
- Agent 任务:NL2Repo 得分 41.36,AIDABench 得分 65.31,在数据分析智能体任务上优于 Qwen3.8-27B。
- 长文本能力:512K 上下文,适合一次性读取合同、技术文档、代码库做分析总结。
- 硬件友好:10GB 显存门槛,很多 10G、12G 显存的消费显卡就能本地部署,不用昂贵 A 系列专业卡。
- 多模态能力:可以接收图片输入,结合图片信息做理解、推理、问答。
四、落地部署操作步骤
- 确认硬件显存:本地部署优先确认显卡可用显存,4bit 量化版本控制在 10GB 内,8bit 版本显存占用会明显升高。
- 选择推理框架:优先 vLLM、SGLang、LightLLM 这类支持循环模型推理加速的框架,原生 transformers 也可加载,但速度偏慢。
- 选择量化版本:只是体验、本地自用优先 4bit 量化;对输出精度要求高,选用更高精度版本。
- 业务场景适配:适合私有化本地 Agent、本地代码助手、离线文档分析;高并发云端推理要评估单 token 推理耗时,循环架构单轮计算量更大。
- 对照 Preview 版差异:正式版优化 Agent、代码、数据分析任务效果,提升上下文稳定性,建议直接使用正式权重。
五、短板说明
- 循环计算会拉高单 token 推理耗时,同等硬件下,生成速度会比普通 9B 模型慢。
- 属于探索型架构,生态适配还在完善,部分推理框架适配存在 bug。
- 对标成绩为官方基准测试结果,不同提示词、数据集下效果会有浮动,不等于所有任务稳定超过 27B 模型。
【常见问题】
问题 1:商汤 SenseNova Loop-9B 显存需求低至 10GB 内,是不是代表所有 10G 显卡都能流畅跑?
回答 1:商汤 SenseNova Loop-9B 显存需求低至 10GB 内,是 4bit 量化后的部署门槛,刚好 10GB 显存显卡跑起来会挤占缓存、速度受限,想要流畅运行,推荐 12GB 及以上显存显卡,同时要搭配适配循环架构的推理加速框架。
问题 2:商汤 SenseNova Loop-9B 是 9B 参数,为什么官方说对标 27B 大模型?
回答 2:商汤 SenseNova Loop-9B 依靠 Loop 循环结构复用参数,用 9B 物理权重实现更深的计算链路,在 Agent、数据分析、代码这类特定评测上达到接近 27B 模型水平,不是物理参数变成 27B,属于架构创新带来的能力提升。
问题 3:商汤 SenseNova Loop-9B 和之前 Preview 预览版有什么区别?
回答 3:商汤 SenseNova Loop-9B 正式版延续 Preview 的 Loop+mHC 架构,重点优化 Agent、代码、数据分析任务的表现,同时把上下文上限升级到 512K tokens,修复预览版部分长文本稳定性问题,更适合业务落地。
【参考资料】
[2026-11-17](商汤正式发布 SenseNova Loop-9B,显存需求控制在 10GB 以内)IT 之家
[2026-11-17](SenseNova Loop-9B 正式版:更少参数,更深计算路径)同花顺财经
[2026-11-17](商汤 SenseNova Loop-9B 正式版技术要点发布)商汤科技官微
[2026-11-02](商汤开源 SenseNova Loop-9B Preview 版本,循环 Transformer 架构解读)电子发烧友网
【免责声明】
【免责声明】
本文商汤 SenseNova Loop-9B 相关信息来自商汤官方发布内容、科技媒体报道;显存占用、推理速度、评测分数受量化方式、推理框架、显卡驱动、提示词影响;循环架构属于前沿探索方案,生态适配还在持续完善;官方对标评测结果仅为基准场景参考,不代表全部任务效果;内容仅作技术信息解读,不构成选型、采购、部署承诺。
