您的位置首页 >科技要闻 >

多家AI企业研发决策模型 旨在规避幻觉问题

现在 OpenAI、微软、亚马逊、Cloudflare 以及 TypeSafe AI 等多家 AI 企业都在研发决策模型,和传统自由生成文本的大语言模型不一样,决策模型的核心思路是不给模型自由编造长文本的空间,而是在给定的候选选项里做判断、选答案,以此规避大模型容易凭空编造事实的幻觉问题,这套思路最早由 TypeSafe AI 的 Jev 模型带火,传统 LLM 是逐 token 自由续写,很容易顺着语义编造不存在的人名、数据、文献;决策模型提前限定可选答案集合,模型只做判断和选择,天然切断无依据编造的路径,同时它还有延迟低、算力成本更低的特点,适合企业知识库校验、智能体工具调用、结构化问答这类对事实准确性要求很高的场景,不过它也有局限,不适合开放式创作、自由长文本写作,行业现在是把决策模型和生成式大模型搭配使用,用决策模型做事实校验、工具路由,LLM 负责自然语言整理输出。

一、决策模型和传统 LLM 对比

对比项决策模型(Decision Model)传统生成式大语言模型 LLM
输出方式在预设候选集中选择答案逐 token 自由生成文本
幻觉控制原理选项边界固定,不能凭空造新内容依赖模型参数记忆、RAG 检索,容易编造信息
算力与延迟算力消耗低、响应速度快算力开销更大,延迟更高
适合场景选项式判断、工具选择、事实核验、智能体路由开放式写作、长文创作、创意对话
短板无法输出不在候选列表里的全新答案幻觉风险更高,需要额外校验机制

二、主流入局企业与标杆产品

  1. TypeSafe AI:Jev,行业标杆决策模型,主打低幻觉、低成本,带动行业跟风研发
  2. Cloudflare:自研决策模型,参考 Djev 开源方案
  3. OpenAI:同步推进决策模型路线,用于 Agent 工具调用、事实判断
  4. 微软、亚马逊:推出同类决策模型,落地在企业知识库、云 AI 服务里

三、决策模型标准工作流程

  1. 输入用户问题,系统提前准备好有限候选选项、可信参考材料
  2. 决策模型读取问题和候选集合,对比参考信息做判断打分
  3. 输出选定的选项,同时附带置信度
  4. 上层系统可以搭配 LLM,把选中结果翻译成通顺自然语言
  5. 置信度偏低时,直接返回 “无法确认”,拒绝强行作答

四、这套方案的优势与短板

✅ 优势

  1. 从机制上约束编造行为,幻觉风险相比原生 LLM 大幅下降
  2. 推理速度快,单 token 成本低,适合高并发的企业智能体场景
  3. 结果可追溯,选了哪个选项、参考哪段资料都可以记录,方便审计
  4. 可以和 RAG、事实校验链路组合,多层保障事实准确性

⚠️ 短板

  1. 必须提前准备候选选项,没有候选就没法使用,灵活性差
  2. 复杂推理、开放式问答、创意写作场景不适用
  3. 候选集本身有错、漏的时候,模型只能在错误选项里挑选,依然会出错
  4. 不能完全消灭幻觉,只是大幅降低幻觉出现概率

【相关 FAQ】

问题 1:多家 AI 企业研发的决策模型,靠什么方式规避幻觉问题?

回答 1:多家 AI 企业研发的决策模型,不靠自由生成文本,而是在提前准备好的候选答案里面做选择,限制模型凭空编造内容,以此规避幻觉,和可以自由续写的传统大模型有本质区别。

问题 2:AI 决策模型和 RAG 检索增强,两种规避幻觉的思路有什么区别?

回答 2:AI 决策模型是限制输出范围,只做选项选择;RAG 是给大模型投喂参考资料,让生成内容锚定检索文档,决策模型更适合判断、工具路由,RAG 更适合开放式问答。

问题 3:多家 AI 企业研发的决策模型,能不能完全替代传统生成式大模型?

回答 3:多家 AI 企业研发的决策模型不能完全替代传统生成式大模型,它擅长判断、事实核验、智能体工具选择,不适合写文章、创意对话这类开放式生成任务,行业一般是两者搭配使用。

【参考资料】

[2026-11-20](多家 AI 企业研发决策模型 旨在规避幻觉问题)电子工程专辑

[2026-11-17](How Decision Models Make AI Hallucination Vanish)IEEE Spectrum

[2026-09-15](TypeSafe AI 发布 Jev 决策模型,主打低幻觉低算力)TypeSafe AI 官方博客

【免责声明】

以上内容为行业公开资讯整理,决策模型的幻觉抑制效果、适用边界、落地能力随模型版本、候选集质量变化,不代表决策模型可以彻底消除 AI 幻觉,不构成 AI 选型、项目开发建议。

今日大家都在搜的词: