最新下载
热门教程
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
把控制大模型幻觉的宝全押在本体之上:这又是一种AI认知上的翻车!
时间:2026-07-14 08:01:59 编辑:袖梨 来源:一聚教程网
把控制幻觉的希望全押在本体上,本身就是一种AI认知上的翻车。本文拆解了为何这条路走不通。核心内容:1. 企业依赖本体消除幻觉却遭遇失败的普遍现象2. 对Agent场景下五种幻觉类型的详细分类剖析3. 揭示本体自身的局限性及“腐化”带来的新风险

支持原创,请点击右上角,设为星标+关注+转发,谢谢!
我最近接触了不少企业客户,发现了一个正在蔓延的错觉。
他们的经历惊人地相似:大模型上了,RAG搭了,Agent也跑起来了。但幻觉压不住。尤其是那些需要跨部门查数、多步推理、归因分析的场景,Agent经常一本正经地胡说八道。
然后他们听到了一个说法:“你们缺的是本体。建了知识图谱,给大模型扎根,幻觉自然就消失了。”
于是他们像抓住了救命稻草。立项、请专家、画实体、定关系、写公理。几个月后,一张漂亮的业务概念图出炉了。满怀期待地把Agent接上去。
幻觉还在。
更气人的是,有些幻觉比以前还难查——以前Agent胡说是明着编,现在它带着“图谱推理路径”的外衣编,看起来有理有据,实际上还是错的。
这不是本体的错。这是把本体当银弹的错。
把控制幻觉的希望全押在本体上,本身就是一种AI认知上的翻车。下面我拆开讲,为什么这条路走不通。
幻觉有很多种,本体只治其中一小部分
先做个简单的分类。Agent场景下的幻觉,至少能分出五种。
第一种:检索幻觉。 RAG捞回来的文档片段不对、不完整。LLM基于错误的素材编答案。比如用户问“华北Q3毛利率”,系统捞回来的是华东的数据。LLM不知道,它以为自己拿到了正确答案,就开始发挥。
第二种:关系幻觉。 LLM自己脑补业务关系。“客户A和供应商B应该有合作吧”——其实图谱里根本没有这条边。
第三种:推理幻觉。 多跳推理时路径漂移了。从客户跳到订单跳到产品跳到供应商跳到竞品,五跳之后得出了一个“万物皆有关联”的弱结论,但Agent把它当强结论输出。
第四种:口径幻觉。 “毛利率”在财务部是一个算法,在销售部是另一个算法。Agent没分清,直接答了。数字本身没错,但用的不是用户想要的那个口径。
第五种:生成幻觉。 LLM在生成环节纯粹的概率性胡说。编一个不存在的法规条文,捏一个没听说过的供应商名字。
本体能治哪一种?主要是第二种和第三种。 关系幻觉——本体里有明确的边,LLM不用自己猜。推理幻觉——本体提供了结构化的路径,比纯靠LLM跳要准。
但第一种(检索幻觉)本体管不了。RAG的切片策略、召回质量、重排逻辑,这些是检索工程的事,不是本体的事。
第四种(口径幻觉)本体只能帮一点忙——如果你把指标定义也挂在本体上。但大部分客户建本体时根本没做这件事。
第五种(生成幻觉)本体基本管不了。LLM最后那一下生成,该编还是编。本体最多能通过提供更准的上下文来间接压低概率,但本质不是本体的活。
所以,本体覆盖的幻觉类型,大概只占全部幻觉的四成左右。 剩下六成,本体有心无力。
把宝全押在本体上,意味着另外六成的幻觉你根本没去管。它们还在那里,该出现的时候照样出现。
本体自己也会“腐化”,腐化的本体制造更危险的幻觉
这是最阴险的一个问题。
本体不是建完就完的。业务在变:新产品线上线了,旧供应商淘汰了,组织架构调整了,考核口径变化了。
如果你的本体没有持续更新——三个月前的实体和关系,今天可能已经过时了。过时的本体喂给Agent,会产生一种特别难查的幻觉。
为什么难查?因为带着“结构化推理”的外衣。
裸LLM编一个答案,用户一眼就能看出来:“这个供应商名字我没听说过,肯定是编的。”但本体加持过的幻觉不一样——Agent会说:“我是按照客户→订单→产品→供应商这条路径推理出来的,每一步都有图谱背书。”
用户一看,有路径、有结构、有推理过程,很容易放松警惕,觉得“既然有图谱支撑,应该没错吧”。
实际上,那条路径上的某个节点或某条边,可能三个月前就已经失效了。 但没人更新本体,Agent不知道,用户也不知道。
这就是腐化本体的可怕之处:它不是在减少幻觉,它是在给幻觉穿上“结构化推理”的马甲,让幻觉更难被识破。
没有治理闭环的本体,不如没有本体。 至少没有本体的时候,用户对Agent的输出保持警惕。有了腐化的本体,用户反而放松了警惕——这是更危险的状态。
很多企业建的是“展示型”本体,不是“消费型”本体
这一条最扎心,但我必须说。
国内不少本体项目的终态是什么?一张漂亮的可视化图。节点整整齐齐,关系清清楚楚。汇报PPT上写着“已建成XX个实体类型、XX条关系、XX条公理”。业务专家看了很满意:“我们业务的全貌都在这里了。”
然后呢?Agent消费不了。
为什么?因为建的时候目标是“给人看”,不是“给机器用”。
给人看的本体,实体覆盖全就行,关系画出来就行,公理写进文档就行。但给Agent消费的本体,要求完全不同:
实体不仅要覆盖,还要挂上对应的指标定义。不然Agent只知道“毛利率”这个实体存在,不知道它怎么算。
关系不仅要画出来,还要带方向、带属性、带时间戳。不然Agent不知道这条关系现在还成立吗。
公理不仅要写进文档,还要写成机器可读、可触发的规则。不然Agent推理时不会自动遵守。
维度值要映射到本体实体。不然指标Agent下钻到“华北”时,不知道怎么跳到本体里去查原因。
展示型本体是给人看的画。消费型本体是给Agent吃的数据。 很多客户建的是前者,以为后者自然就有了。
所以“本体上了,幻觉还在”——你上的那个,根本不是Agent能吃的那一个。
本体推理本身也会产幻觉,如果你没配剪枝的话
这个问题我在上一篇文章里详细讲过,这里简单提一下。
本体推理不是天然“准”的。它只是“有结构”。有结构不等于准。
当Agent沿着本体做多跳推理时,跳到5跳以上,路径爆炸和语义漂移会让结果里混入大量弱关联。如果不加公理剪枝、不设跳数上限、不做关系白名单,本体推理自己就会产出“万物皆有关联”式的结论。
这种结论不是LLM编的,是本体推理自己产的。 但用户分不清——他们看到“有图谱路径”,就觉得应该是对的。
所以,把宝押在本体上的人,往往忽略了一个事实:本体推理自身也需要治理。 公理要写、跳数要限、关系要筛选、置信度要衰减。这些不做,本体推理产出的结论里,同样混着幻觉。
本体治不了“意图理解”和“规则约束”这两类问题
Agent推理的全链路是什么样的?
用户说一句话 → Agent理解意图 → Agent查询世界(本体+指标+过程)→ Agent校验规则 → Agent输出答案。
本体只负责中间那段“世界理解”里的静态结构部分。
意图理解那段如果错了,后面全错。 用户问“Q3毛利率怎么回事”,Agent理解成“Q3营收趋势怎么样”。那它就不会去做归因分析,直接拉个趋势图完事。这种幻觉本体治不了——它发生在本体上场之前。
规则约束那段如果没拦住,Agent会出危险建议。 本体说“供应商X交付延迟”,Agent建议“换掉供应商X”。但规则层没有告诉Agent:供应商X是战略独家供应商,合同期内不能换。这个建议在业务上就是错的。这种幻觉本体也治不了——它发生在本体上场之后。
所以,把宝押在本体上的人,实际上只治理了全链路中的一个环节。 前面的意图理解环节、后面的规则约束环节,都是敞开的。
那本体到底应该怎么用?
说了这么多问题,不是为了否定本体。本体是好东西,值得建。但它不是银弹,不能单兵突进。
更合理的姿势是:把本体放在一个更大的“幻觉治理拼图”里来看。
拼图的第一块:检索质量。 RAG的切片策略、召回精度、重排逻辑。这块不治好,喂进本体的都是错料。本体再准也没用。
拼图的第二块:指标语义。 口径统一、维度映射、版本管理。国内企业这块最烂,“毛利率”三个部门三个数。Agent不编都乱。
拼图的第三块:本体+公理剪枝。 这才是本体的主战场。但前面两块不铺好,本体孤军奋战效果有限。
拼图的第四块:规则约束。 红线、阈值、审批流。让Agent知道哪些建议不能出。
拼图的第五块:输出校验。 对Agent的最终输出做一层安全检查。涉及战略供应商的建议,必须人工复核。
本体在第三块,不是第一块。 很多客户反过来——先建本体,发现幻觉还在,再回头补RAG、补指标语义、补规则。越补越发现“原来本体只是其中一块”。时间和预算都浪费了。
结论
所以,把控制幻觉的宝全押在本体上,本质上是一种“找替罪羊”的心态。
大模型上了,幻觉压不住。RAG试过了,效果不够。Prompt工程调了,还是不行。模型换了好几轮,也没改善。这时候有人说:“你们缺本体。”于是本体成了最后的救命稻草。
但幻觉从来不是单一原因造成的。它是一连串薄弱环节共同作用的结果。 检索可能不准,口径可能混乱,关系可能过时,规则可能缺失,生成可能失控。本体只堵住了其中的一两环,其他环节还是漏的。
更准确的说法是:
本体不是幻觉的银弹,是幻觉治理拼图中的一块。它值得建,但要在检索质量、指标语义之后建,而且要配上公理剪枝、治理闭环和规则约束。否则,你得到的不是更少的幻觉,而是穿着“结构化推理”外衣的更危险的幻觉。
国内客户如果要避这个坑,建议先做一件事:诊断你的幻觉主要属于哪一类。 是检索不准?是口径混乱?是关系跳漂?还是生成乱编?
诊断清楚了,再决定本体建在哪、建多厚、配什么治理。上来就“建本体治幻觉”,大概率是二次翻车。
这不是本体的错。是把宝押错地方的错。
如果你感觉写得好,请点击右上角,设为星标+关注+转发,谢谢!
粉丝们看过来,本公众号作者新出了一本书《一本书讲透数据指标体系》,有需要的可通过以下链接购买,或去京东搜索书名,通过您中意的链接下单。登录查看剩余 70% 内容
相关文章
- 王者荣耀世界半生如寄任务攻略 王者荣耀半生如寄成就完成方法 07-14
- 千本手帐怎么添加照片 07-14
- 王者荣耀世界长安在哪里 王者荣耀长安地图位置与进入方法详解 07-14
- Codex 如何避免任务失忆?planning-with-files 使用教程 07-14
- 王者荣耀世界钓鱼攻略 王者荣耀世界钓鱼方法详解 07-14
- 实战指南:Linux系统故障修复、日志管理与安全加固 07-14