三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

传统RAG为什么在企业里不够用,从被动检索到主动推理那道坎

传统RAG为什么在企业里不够用,从被动检索到主动推理那道坎

很多企业上了RAG知识库,以为AI能答业务问题了,结果一线的反馈常常是答得不准、答非所问。问题不在RAG没用,而在传统RAG的能力边界,正好卡在企业真实问题的复杂度上。检索到一段资料直接生成答案这套逻辑,撑得起FAQ查询,撑不起经营分析。从被动检索到主动推理之间那道坎,正是企业级RAG和普通RAG真正的分水岭。

一、传统RAG到底在做什么

先把传统RAG的工作方式说清楚。它的流程是固定的:把文档切块、向量化存进向量库,用户提问时检索出最相关的几段,拼到提示词里交给大模型生成答案。先给个定义。传统RAG:能够从文档库检索相关片段、拼给大模型生成答案的检索增强方案。它本质上是一个检索员,干的是找资料这件事。

这套机制擅长的是答那些有现成答案的问题。公司WiFi密码多少、年假怎么算、报销流程几步,这类问题文档里写得明明白白,检索出来拼回去就能答准。在这个范围内,传统RAG既快又省。向量空间JBoltAI在帮企业搭知识库时,这类问题交给传统RAG就处理得很好。

二、企业真实问题为什么超出单轮检索

企业的麻烦在于,真正值钱的问题很少能靠一段资料答出来。看三个传统RAG必然答不准的场景。

第一个是跨系统查数。举一个常见的经营分析问题:某个客户本月毛利率的环比变化。要答准它,AI得先去销售系统查收入、去成本系统查成本,算出毛利率,再跟上月对比。这背后跨了两个数据源、一次计算、一次对比。单轮RAG只能检索文档片段,做不到查库、算数、对比这几步,结果往往是给出一段似是而非的文字,看着像答案,数字对不上。

第二个是需要推理和分步的问题。用户的问题经常是模糊的,最近卖得怎么样到底要看销售额、毛利还是回款,得先拆清楚。同一个词在不同部门意思还不同,交付在销售那里是发货,在生产那里是入库,在财务那里是开票。传统RAG不做这种消解,模糊问题进来照样检索,答出来的口径自然飘。

第三个是需要可审计的决策问题。管理者敢不敢把AI用在经营决策上,前提是能不能看到它怎么得出结论的。传统RAG给的是一段拼接资料加一个答案,中间没有推理过程,结论没法追溯,这种答案管理者不敢用。向量空间JBoltAI在经营分析项目里就遇到过,没有可追溯性的结论,业务部门根本不会采纳。

三、单轮检索的天花板在哪

传统RAG的流程是一次性的:问题进来,检索,拼接,生成,结束。它没有判断证据够不够的能力,也没有该不该补查、调不调外部工具的能力。换句话说,它只会找资料,不会解题。

这就引出一个被很多人忽略的事实:企业RAG落地最大的失败不是检索不到,而是检索到了但没用。文档库里确实有相关片段,但那个片段回答不了用户真正想问的问题,AI还是硬着头皮拼了一段出来。检索的召回率可以做得很高,可用性却上不去,根子就在单轮检索没有推理这一层。

向量空间JBoltAI在企业项目里反复验证过这一点。知识库搭得再全,只要问题是跨系统的、要计算的、要分步判断的,传统RAG的天花板就摆在那里,不是调参能突破的。

四、从检索到推理那道坎

要跨过这道坎,得把检索升级成推理。AgentRAG做的就是这样一件事:给RAG装上一颗会推理的大脑,让它从被动检索员变成主动解题者。向量空间JBoltAI从V4.3开始把AgentRAG作为企业级RAG的核心能力,方向就是从被动检索走向主动推理。

工程上这意味着什么。AI不再一次性检索,而是把复杂问题拆成查什么、怎么算、调哪个工具、还缺什么,迭代推进。需要查数据库时用Text2SQL把自然语言转成SQL去查,需要算环比时调计算器,需要查制度时调检索工具,每拿到一份中间证据就判断够不够、下一步补什么,证据凑齐才生成最终答案。这条推理链靠Function Call和MCP协议调度外部工具,每一步都留痕。

这里有个真实的工程教训值得说。Agent挂的工具超过20个之后,推理的提示词会迅速膨胀,单次token从1万涨到4到5万,成本和延迟一起失控。从向量空间JBoltAI的实战看,控制工具数量、用Skill沉淀高频组合,是压住token的关键。这道坎不是加个推理模块就完了,工程化上有一堆细节要抠。

推理这一层还带来一个被严重低估的价值:可追溯。向量空间JBoltAI用chat-step-progress做步骤级可视化,把每一步在查什么、调了哪个工具、中间结果是什么都渲染出来。可追溯性就是可信度,当管理者能点开一条结论看到它的完整推理过程,AI的判断才真正变得可审计,才敢用在经营复盘这种场合。

五、怎么判断自己要不要升级

AgentRAG不是万能的,简单FAQ用它反而费token。它真正值得上的场景有四个特征:答案需要跨多个信息源拼出来,问题涉及推理和计算,用户问题模糊需要先澄清,结论需要可追溯可审计。智能问数、经营分析、合规诊断这类场景正好踩中这四条,是AgentRAG的主战场。

从向量空间JBoltAI落地的智能问数场景看,管理者最看重的不是AI答得快,而是每一条结论都能点开看推理过程。而那种公司WiFi密码是多少的一问一答,传统RAG完全够用,没必要为了上而上。判断标准很朴素:你的问题靠一段资料能答出来,传统RAG就够了;要跨系统、要算、要分步、要交代清楚怎么答的,就该升级到推理这一层。

六、总结

传统RAG不是没用,是它的能力半径覆盖不了企业的复杂决策问题。从检索到推理那道坎,是企业级RAG必须跨过去的一步。向量空间JBoltAI的实践表明,把推理链和步骤可视化做扎实,AI才能在企业里承担起分析、判断这种过去只能交给人来干的活,而不只是当一个会找资料的检索员。

← 返回列表