三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

RAG 是什么:为什么光靠 Prompt 不够

RAG 是什么:为什么光靠 Prompt 不够

导语

你让模型回答通用问题,它常常挺能打。

你让它回答“我们公司差旅怎么报”,它就开始编。

不是它态度差。

是它训练时根本没见过你们内部制度。

Prompt 再认真,也变不出一本不存在的员工手册。

所以才有 RAG。

检索增强生成:先找资料,再让模型回答。

说白了,不让模型裸考,先给它开卷。

一、大模型的知识边界在哪

通用大模型有几个硬伤:

  • 不知道你的私有文档
  • 知识有截止日期
  • 容易对不确定内容一本正经地编 你可以把 Prompt 写成:

“请基于事实回答,不要编造。”

但这只是嘱咐。

嘱咐不能凭空制造事实。

内部知识这场考试,模型缺的是材料,不是口号。

二、RAG 一句话讲明白

RAG = Retrieval-Augmented Generation。

流程很朴素:

  1. 把文档切块并向量化,存进知识库
  2. 用户提问时先检索相关段落
  3. 把检索结果塞进 Prompt
  4. 让大模型基于这些材料生成答案 类比:

Prompt 是考前叮嘱,RAG 是开卷考试发资料。

模型还是那个模型。

但它终于不用闭卷瞎编了。

三、为什么很多团队会高估 Prompt、低估 RAG

因为 Prompt 改起来快,立刻有反馈。

而 RAG 要做文档清洗、分块、向量化、检索调优,脏活更多。

但企业内部场景里,RAG 往往更关键:

  • 产品手册
  • 制度流程
  • 故障案例
  • 接口说明
  • FAQ 和历史工单 这些内容天天变、又不能公开训练进模型。

硬微调不划算,硬 Prompt 又装不下。

RAG 就是这个缺口的补丁。

四、RAG 不是万能,也解决不了所有问题

它擅长补知识。

它不擅长:

  • 精确统计和复杂 SQL 查询
  • 强流程审批
  • 把行为风格彻底焊死 该查库的别硬塞向量库。

该走工作流的别幻想 Agent+RAG 包办。

另外,RAG 效果差,常见不是“模型不行”,而是:

  • 文档太脏
  • 分块太烂
  • 检索不准
  • 注入上下文太吵 后面两篇会专门拆架构和优化。

五、什么时候你该上 RAG

出现这些信号,就认真考虑:

  1. 答案依赖公司内部资料
  2. 资料经常更新,不能每次重训模型
  3. 需要引用出处,降低胡说风险
  4. Prompt 已经很长,还是答不准私有问题 一句话:

缺知识,上 RAG;缺指令,先改 Prompt;缺稳定行为,再评估微调。

六、一个最小例子,帮你建立直觉

用户问:“出差住酒店最多能报多少?”

没有 RAG: 模型按“通用企业惯例”回答,听着合理,未必符合你们制度。

有 RAG: 系统先检索到《差旅管理办法》相关段落,再让模型基于原文组织答案,并尽量带出处。

你会发现差异不在文笔,在证据。

企业问答拼的从来不是口才,是可核对。

关键结论

光靠 Prompt,模型只能发挥它本来知道的。

企业内部真正值钱的,往往是它本来不知道的。

RAG 的价值,就是把私有知识变成模型可引用的开卷材料。

先检索,后生成。

这不是概念游戏,是业务系统里非常实在的补短板方式。

结尾

你们现在让模型答内部问题,是靠超长 Prompt 硬塞,还是已经上了知识库?

学AI大模型的正确顺序,千万不要搞错了

🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!

有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!

就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇

学习路线:

✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经

以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!

我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

← 返回列表