您的位置首页 >人工智能 >

LLMON 原生标记语言配套推出 Granite 4.1 3B/8B 预览模型

IBM 正式推出专为大模型设计的 LLMON 原生标记语言,同步放出 Granite 4.1 3B、8B 两个预览版本,这套方案核心是用特殊分隔符把指令和原始数据做强制隔离,解决 RAG、智能代理场景里高发的间接提示注入问题,测试数据显示它抵御这类攻击的效果比普通开源模型提升很多,同时模型本身基础能力和原版 Granite 4.1 Instruct 差距不大,配套还开源了 LLMON 工具包、JSON 转 LLMON 转换工具、注意力可视化 demo,不过要注意这两款只是实验预览版,官方不建议直接上生产环境,适合开发者做安全方向的测试、评估和二次微调。

LLMON 是什么

  • LLMON 全称 LLM Object Notation,读音类似 lemon,是面向大模型的原生标记语言,不是给程序解析器用的传统标记格式
  • 用预留特殊 token 做区块分隔,把系统指令、用户指令、检索文档、工具返回结果划分成独立区块,明确绑定指令对应处理哪些数据
  • 支持无损 JSON 互相转换,兼容 LoRA 微调自定义词汇表

Granite 4.1 LLMON 预览模型基础信息表

项目详情
模型名称granite-4.1-3b-LLMON-preview、granite-4.1-8b-LLMON-preview
基座Granite 4.1 基础权重
参数规模3B、8B
开源协议Apache 2.0
发布平台Hugging Face
定位实验预览模型,仅限研究测试
配套资源LLMON 工具仓库、转换脚本、可视化 Demo、微调示例 Notebook

安全与性能测试结果清单

  1. 在 OPI 基准测试中,相比同梯队前沿模型多规避 47% 静态间接提示注入攻击,对比最优开源模型提升 95%
  2. 在 ASB、StruQ 这类注入测试集上,也呈现相近的防御提升效果
  3. 通用推理、代码、指令跟随基准成绩,和原版 Granite 4.1 Instruct 基本持平
  4. 短板:针对多轮对话的自适应注入攻击防护还在迭代优化

上手使用简单步骤

  1. 在 Hugging Face 下载对应 3B 或者 8B 的 LLMON 预览权重
  2. 引入开源 LLMON 工具包,把 JSON 数据无损转换成 LLMON 标记格式
  3. 按照 LLMON 规范拆分指令块和文档数据块,送入模型推理
  4. 搭配提供的注意力可视化工具,查看模型对不同区块的识别情况
  5. 可基于该基座做 LoRA 微调,自定义业务场景的 LLMON 词汇

【常见问题】

问题 1:LLMON 原生标记语言搭配 Granite 4.1 3B/8B 预览模型,主要用来解决什么问题?

回答 1:LLMON 原生标记语言搭配 Granite 4.1 3B/8B 预览模型,核心目标是缓解 RAG、AI 智能代理里的间接提示注入风险,靠标记语言把指令和文档数据强制分开,避免文档里面藏的恶意指令劫持模型。

问题 2:Granite 4.1 3B/8B LLMON 预览模型能不能直接放到线上业务生产使用?

回答 2:Granite 4.1 3B/8B LLMON 预览模型属于实验版本,官方明确不推荐直接上线生产,适合开发者做安全验证、方案评估、学术测试。

问题 3:使用 LLMON 原生标记语言,是不是只能搭配 Granite 4.1 3B/8B 预览模型?

回答 3:本次首发配套训练的是 Granite 4.1 3B/8B 预览模型,LLMON 本身是独立标记规范,后续理论上可以适配其他模型,只是其他模型没有经过 LLMON 专项训练,识别效果会变差。

问题 4:Granite 4.1 3B/8B LLMON 预览模型的许可证是什么,能不能商用测试?

回答 4:Granite 4.1 3B/8B LLMON 预览模型采用 Apache 2.0 协议,允许商用场景下做评估测试,但依然要留意它是预览实验版本带来的稳定性风险。

【参考资料】

[2026-11-13](LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B)Extrapolator AI

[2026-11-13](IBM releases granite-4.1 LLMON preview models trained on an LLM-native markup language)AIsa Studio

[2026-11-12](Granite 4.1 LLMON Preview: specs, pricing and benchmarks)AI/TLDR

[2026-11-12](IBM Releases Granite 4.1 LLMON Previews to Curb Prompt Injection)AI Breaking Wire

[2026-11-12](LLMON: A Markup Language Built for Large Language Models, Now Baked Into Granite 4.1 3B and 8B)Judy AI Lab

【免责声明】

本文仅为 AI 行业资讯科普,LLMON 原生标记语言、Granite 4.1 3B/8B 预览模型的能力、安全效果、后续更新计划以 IBM 官方、Hugging Face 模型卡公告为准;提示注入防护效果仅为官方基准测试结论,不同业务场景下防护效果存在差异,不构成安全方案选型、线上落地建议。

今日大家都在搜的词: