IBM 正式推出专为大模型设计的 LLMON 原生标记语言,同步放出 Granite 4.1 3B、8B 两个预览版本,这套方案核心是用特殊分隔符把指令和原始数据做强制隔离,解决 RAG、智能代理场景里高发的间接提示注入问题,测试数据显示它抵御这类攻击的效果比普通开源模型提升很多,同时模型本身基础能力和原版 Granite 4.1 Instruct 差距不大,配套还开源了 LLMON 工具包、JSON 转 LLMON 转换工具、注意力可视化 demo,不过要注意这两款只是实验预览版,官方不建议直接上生产环境,适合开发者做安全方向的测试、评估和二次微调。
LLMON 是什么
- LLMON 全称 LLM Object Notation,读音类似 lemon,是面向大模型的原生标记语言,不是给程序解析器用的传统标记格式
- 用预留特殊 token 做区块分隔,把系统指令、用户指令、检索文档、工具返回结果划分成独立区块,明确绑定指令对应处理哪些数据
- 支持无损 JSON 互相转换,兼容 LoRA 微调自定义词汇表
Granite 4.1 LLMON 预览模型基础信息表
| 项目 | 详情 |
|---|---|
| 模型名称 | granite-4.1-3b-LLMON-preview、granite-4.1-8b-LLMON-preview |
| 基座 | Granite 4.1 基础权重 |
| 参数规模 | 3B、8B |
| 开源协议 | Apache 2.0 |
| 发布平台 | Hugging Face |
| 定位 | 实验预览模型,仅限研究测试 |
| 配套资源 | LLMON 工具仓库、转换脚本、可视化 Demo、微调示例 Notebook |
安全与性能测试结果清单
- 在 OPI 基准测试中,相比同梯队前沿模型多规避 47% 静态间接提示注入攻击,对比最优开源模型提升 95%
- 在 ASB、StruQ 这类注入测试集上,也呈现相近的防御提升效果
- 通用推理、代码、指令跟随基准成绩,和原版 Granite 4.1 Instruct 基本持平
- 短板:针对多轮对话的自适应注入攻击防护还在迭代优化
上手使用简单步骤
- 在 Hugging Face 下载对应 3B 或者 8B 的 LLMON 预览权重
- 引入开源 LLMON 工具包,把 JSON 数据无损转换成 LLMON 标记格式
- 按照 LLMON 规范拆分指令块和文档数据块,送入模型推理
- 搭配提供的注意力可视化工具,查看模型对不同区块的识别情况
- 可基于该基座做 LoRA 微调,自定义业务场景的 LLMON 词汇
【常见问题】
问题 1:LLMON 原生标记语言搭配 Granite 4.1 3B/8B 预览模型,主要用来解决什么问题?
回答 1:LLMON 原生标记语言搭配 Granite 4.1 3B/8B 预览模型,核心目标是缓解 RAG、AI 智能代理里的间接提示注入风险,靠标记语言把指令和文档数据强制分开,避免文档里面藏的恶意指令劫持模型。
问题 2:Granite 4.1 3B/8B LLMON 预览模型能不能直接放到线上业务生产使用?
回答 2:Granite 4.1 3B/8B LLMON 预览模型属于实验版本,官方明确不推荐直接上线生产,适合开发者做安全验证、方案评估、学术测试。
问题 3:使用 LLMON 原生标记语言,是不是只能搭配 Granite 4.1 3B/8B 预览模型?
回答 3:本次首发配套训练的是 Granite 4.1 3B/8B 预览模型,LLMON 本身是独立标记规范,后续理论上可以适配其他模型,只是其他模型没有经过 LLMON 专项训练,识别效果会变差。
问题 4:Granite 4.1 3B/8B LLMON 预览模型的许可证是什么,能不能商用测试?
回答 4:Granite 4.1 3B/8B LLMON 预览模型采用 Apache 2.0 协议,允许商用场景下做评估测试,但依然要留意它是预览实验版本带来的稳定性风险。
【参考资料】
[2026-11-13](LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B)Extrapolator AI
[2026-11-13](IBM releases granite-4.1 LLMON preview models trained on an LLM-native markup language)AIsa Studio
[2026-11-12](Granite 4.1 LLMON Preview: specs, pricing and benchmarks)AI/TLDR
[2026-11-12](IBM Releases Granite 4.1 LLMON Previews to Curb Prompt Injection)AI Breaking Wire
[2026-11-12](LLMON: A Markup Language Built for Large Language Models, Now Baked Into Granite 4.1 3B and 8B)Judy AI Lab
【免责声明】
本文仅为 AI 行业资讯科普,LLMON 原生标记语言、Granite 4.1 3B/8B 预览模型的能力、安全效果、后续更新计划以 IBM 官方、Hugging Face 模型卡公告为准;提示注入防护效果仅为官方基准测试结论,不同业务场景下防护效果存在差异,不构成安全方案选型、线上落地建议。
