三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

LangChain 大模型应用开发实战:从提示词工程到完整应用

LangChain 大模型应用开发实战:从提示词工程到完整应用

这里写自定义目录标题

  • 欢迎使用Markdown编辑器
    • 引言:为什么需要一套工程化框架
    • 一、LangChain 到底解决了什么问题
    • 二、环境搭建与第一次模型调用
      • 2.1 安装与本地模型准备
      • 2.2 一行代码调用本地大模型
    • 三、六大核心组件精讲
      • 3.1 Prompts:提示词模板
      • 3.4 Indexes:文档加载与向量检索
      • 3.5 Chains:链式编排
      • 3.6 Agents:智能代理
    • 四、实战:搭建一个带记忆的知识库问答助手
    • 五、工程化落地的几个关键建议
    • 六、总结
    • 新的改变
    • 功能快捷键
    • 合理的创建标题,有助于目录的生成
    • 如何改变文本的样式
    • 插入链接与图片
    • 如何插入一段漂亮的代码片
    • 生成一个适合你的列表
    • 创建一个表格
      • 设定内容居中、居左、居右
      • SmartyPants
    • 创建一个自定义列表
    • 如何创建一个注脚
    • 注释也是必不可少的
    • KaTeX数学公式
    • 新的甘特图功能,丰富你的文章
    • UML图表
    • 流程图
    • FLowchart流程图
    • 导出与导入
      • 导出
      • 导入

欢迎使用Markdown编辑器

你好! 这是你第一次使用# LangChain 大模型应用开发实战:从提示词工程到完整应用

引言:为什么需要一套工程化框架

过去两年里,大模型的能力边界被不断刷新,但真正让开发者头疼的从来不是"模型不够聪明",而是"如何把模型稳定地嵌进业务系统"。直接调用模型 API 只能应付单轮问答,一旦涉及多轮记忆、私有知识库、工具调用、结构化输出这些真实需求,裸调 API 的代码会迅速变得难以维护。

LangChain 的价值恰恰在于它把"调用模型"这件看似简单、实则充满细节的事情,抽象成了一套可组合、可复用的组件体系。它之于大语言模型,类似于 Spring 之于 Java——不是替代模型,而是为模型搭建工程化的脚手架。本文不打算罗列 API 文档,而是沿着一条完整的实战路径,讲清楚核心组件如何协同工作,并给出可以直接运行的代码。

一、LangChain 到底解决了什么问题

在动手写代码之前,先厘清它解决的核心痛点。直接调用大模型 API,你会立刻撞上四堵墙:

知识滞后。模型的知识截止到训练数据的时间点,它不知道昨天发生的新闻,更不知道你公司内部的私有文档。让它回答内部制度问题,它只能一本正经地编造。

无状态。每次 API 调用都是全新的开始。你问它"我叫什么",它回答了;下次再问,它完全忘记。这不是模型笨,而是调用机制决定的——每次请求相互独立,没有状态保持。

无法连接外部世界。模型只能"说"不能"做"。问它"现在比特币多少钱",它只能猜测;让它算一道精确的算术题,大概率算错。

输出不稳定。同样的问题,模型可能给出不同的答案,且难以约束输出格式。

LangChain 的应对之道是"模块化组合":把 AI 应用拆解成 Models、Prompts、Memory、Indexes、Chains、Agents 等独立组件,每个组件职责单一,再通过链式或图式编排把它们串联成完整工作流。这种设计的精妙之处在于数据流向清晰、组件职责单一——这正是优秀架构的标志。

二、环境搭建与第一次模型调用

2.1 安装与本地模型准备

对于初学者,最友好的方式是先用本地模型跑通流程,避免 API 密钥和网络问题。Ollama 是目前最流行的本地模型运行工具,一条命令即可拉起一个模型服务:

pipinstalllangchain langchain-community ollama pull qwen2.5:7b

这里有一个容易混淆的概念:ollama run是给"人"用的命令行聊天工具,而 LangChain 中的ChatOllama是给"程序"用的接口,让 Python 代码去调用本地模型。两者的调用链是:Python 程序 → LangChain(ChatOllama) → Ollama 服务 → 本地模型。

2.2 一行代码调用本地大模型

fromlangchain_community.chat_modelsimportChatOllamafromlangchain_core.messagesimportHumanMessage llm=ChatOllama(model="qwen2.5:7b",temperature=0.7)resp=llm.invoke([HumanMessage(content="用一句话解释什么是大模型")])print(resp.content)

temperature是控制随机性的关键参数:取 0 时接近贪心解码,输出几乎确定;取值越高越随机、越有创造性。对于事实性问答建议调低,对于创意生成可以调高。

三、六大核心组件精讲

3.1 Prompts:提示词模板

PromptTemplate 解决的是"LLM 输入格式化"问题,支持变量替换,能把零散的用户输入转化为模型可理解的标准化提示:

fromlangchain_core.promptsimportPromptTemplate template=PromptTemplate.from_template("你是一位{role},请用{style}的语气回答下面的问题:\n{question}")prompt=template.format(role="资深架构师",style="简洁专业",question="什么是微服务?")``` 提示词模板的价值在于把"提示词"当作一等公民来管理。真实项目中,提示词往往需要反复迭代,如果硬编码在业务代码里,每次修改都要重新发版。把提示词抽成模板文件,配合版本管理,是工程化的第一步。### 3.2 Models:统一模型接口LangChain 通过统一的接口封装了 OpenAI、Anthropic、通义千问、DeepSeek 以及本地模型。切换模型通常只需要改一行配置,业务代码几乎不用动。这种"适配器模式"的设计,让团队可以在不同模型之间做 A/B 测试,也避免被单一厂商锁定。### 3.3 Memory:对话记忆记忆组件解决"无状态"问题。LangChain 提供了多种记忆实现:`ConversationBufferMemory` 保存全部历史,`ConversationSummaryMemory` 用摘要压缩历史,`ConversationBufferWindowMemory` 只保留最近 N 轮。选择哪种记忆策略,本质是在"信息完整度""Token 成本"之间做权衡。 ```pythonfromlangchain.memoryimportConversationBufferMemoryfromlangchain.chainsimportConversationChain memory=ConversationBufferMemory()chain=ConversationChain(llm=llm,memory=memory)chain.run("我叫小明")chain.run("我叫什么名字?")# 能正确回答"小明"

3.4 Indexes:文档加载与向量检索

Indexes 组件是 RAG 的基础,负责把文档加载、切分、向量化并存入向量库。核心流程是:Loader 加载文档 → TextSplitter 切分 → Embedding 向量化 → VectorStore 存储。切分策略直接影响检索质量,后面会专门讨论。

3.5 Chains:链式编排

Chain 把"提示词 + 模型 + 输出解析"封装成一个可复用的单元,多个 Chain 可以串联成复杂流程。比如"先总结文档,再根据总结写周报"就是典型的链式调用。链式编排适合流程相对固定的场景,逻辑清晰、易于调试。

3.6 Agents:智能代理

Agent 是 LangChain 中最灵活也最复杂的组件。它让模型具备"思考-行动-观察"的循环能力:模型根据任务决定调用哪个工具,观察工具返回结果,再决定下一步。这种 ReAct 模式让应用从"被动回答"升级为"主动完成任务"。

四、实战:搭建一个带记忆的知识库问答助手

把上面的组件串起来,实现一个完整的 RAG 问答助手:

fromlangchain_community.document_loadersimportTextLoaderfromlangchain.text_splitterimportRecursiveCharacterTextSplitterfromlangchain_community.vectorstoresimportChromafromlangchain_community.embeddingsimportHuggingFaceEmbeddingsfromlangchain_core.promptsimportChatPromptTemplatefromlangchain_core.output_parsersimportStrOutputParser# 1. 加载并切分文档loader=TextLoader("company_policy.txt")docs=loader.load()splitter=RecursiveCharacterTextSplitter(chunk_size=500,chunk_overlap=50)chunks=splitter.split_documents(docs)# 2. 向量化并存储embeddings=HuggingFaceEmbeddings(model_name="BAAI/bge-small-zh-v1.5")vectorstore=Chroma.from_documents(chunks,embeddings)retriever=vectorstore.as_retriever(search_kwargs={"k":4})# 3. 构建提示词prompt=ChatPromptTemplate.from_template("""请基于以下资料回答问题,如果资料中没有相关信息,请明确说明不知道。 资料:{context} 问题:{question} 回答:""")# 4. 组装 RAG 链fromlangchain_core.runnablesimportRunnablePassthrough chain=({"context":retriever,"question":RunnablePassthrough()}|prompt|llm|StrOutputParser())print(chain.invoke("年假制度是怎样的?"))

这段代码虽然只有几十行,却完整覆盖了 RAG 的核心链路:文档加载、切分、向量化、检索、提示词组装、生成。理解这条链路,是理解所有企业级 RAG 系统的基础。

五、工程化落地的几个关键建议

第一,提示词要版本化。把提示词模板放到独立文件,配合 Git 管理,每次改动都能回溯。线上出问题时,能快速定位是提示词变化还是模型变化导致的。

第二,重视可观测性。生产环境一定要记录每次调用的输入输出、Token 消耗、延迟。LangSmith 这类工具可以可视化追踪链的执行过程,对排查问题帮助极大。

第三,做好降级策略。模型服务可能超时、限流、返回异常。生产系统必须有超时控制、重试机制和兜底回复,不能因为模型挂了整个服务就崩了。

第四,评估先行。不要凭感觉判断"效果变好了",要建立评估集,用准确率、召回率、相关性等指标量化评估。没有评估体系,优化就是盲人摸象。

六、总结

LangChain 的价值不在于它提供了多少现成组件,而在于它建立了一套"如何组织大模型应用"的心智模型。掌握这套心智模型,比记住任何 API 都重要。当你理解了组件如何组合、数据如何流动、状态如何管理,你就能用任何框架、甚至不用框架,构建出高质量的大模型应用。

对于初学者,建议的进阶路径是:先用本地模型跑通基础调用,再逐个掌握六大组件,然后动手实现一个完整的 RAG 应用,最后关注工程化问题——可观测性、评估、降级。这条路走完,你就具备了独立构建生产级大模型应用的能力。

Markdown编辑器所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。

新的改变

我们对Markdown编辑器进行了一些功能拓展与语法支持,除了标准的Markdown编辑器功能,我们增加了如下几点新功能,帮助你用它写博客:

  1. 全新的界面设计,将会带来全新的写作体验;
  2. 在创作中心设置你喜爱的代码高亮样式,Markdown将代码片显示选择的高亮样式进行展示;
  3. 增加了图片拖拽功能,你可以将本地的图片直接拖拽到编辑区域直接展示;
  4. 全新的KaTeX数学公式语法;
  5. 增加了支持甘特图的mermaid语法1功能;
  6. 增加了多屏幕编辑Markdown文章功能;
  7. 增加了焦点写作模式、预览模式、简洁写作模式、左右区域同步滚轮设置等功能,功能按钮位于编辑区域与预览区域中间;
  8. 增加了检查列表功能。

功能快捷键

撤销:Ctrl/Command+Z
重做:Ctrl/Command+Y
加粗:Ctrl/Command+B
斜体:Ctrl/Command+I
标题:Ctrl/Command+Shift+H
无序列表:Ctrl/Command+Shift+U
有序列表:Ctrl/Command+Shift+O
检查列表:Ctrl/Command+Shift+C
插入代码:Ctrl/Command+Shift+K
插入链接:Ctrl/Command+Shift+L
插入图片:Ctrl/Command+Shift+G
查找:Ctrl/Command+F
替换:Ctrl/Command+G

合理的创建标题,有助于目录的生成

直接输入1次#,并按下space后,将生成1级标题。
输入2次#,并按下space后,将生成2级标题。
以此类推,我们支持6级标题。有助于使用TOC语法后生成一个完美的目录。

如何改变文本的样式

强调文本强调文本

加粗文本加粗文本

标记文本

删除文本

引用文本

H2O is是液体。

210运算结果是 1024.

插入链接与图片

链接: link.

图片:

带尺寸的图片:

居中的图片:

居中并且带尺寸的图片:

当然,我们为了让用户更加便捷,我们增加了图片拖拽功能。

如何插入一段漂亮的代码片

去博客设置页面,选择一款你喜欢的代码片高亮样式,下面展示同样高亮的代码片.

// An highlighted blockvarfoo='bar';

生成一个适合你的列表

  • 项目
    • 项目
      • 项目
  1. 项目1
  2. 项目2
  3. 项目3
  • 计划任务
  • 完成任务

创建一个表格

一个简单的表格是这么创建的:

项目Value
电脑$1600
手机$12
导管$1

设定内容居中、居左、居右

使用:---------:居中
使用:----------居左
使用----------:居右

第一列第二列第三列
第一列文本居中第二列文本居右第三列文本居左

SmartyPants

SmartyPants 是一个文本转换工具,主要功能是将普通的 ASCII 标点符号自动转换为更美观的印刷体标点符号。例如:

原始符号转换后说明
"引号"“引号”直引号变弯引号
'单引号'‘单引号’直单引号变弯单引号
--两个连字符变短破折号
---三个连字符变长破折号
...三个点变省略号

创建一个自定义列表

Markdown
Text-to-HTMLconversion tool
Authors
John
Luke

如何创建一个注脚

一个具有注脚的文本。2

注释也是必不可少的

Markdown将文本转换为HTML

KaTeX数学公式

您可以使用渲染LaTeX数学表达式 KaTeX:

Gamma公式展示Γ ( n ) = ( n − 1 ) ! ∀ n ∈ N \Gamma(n) = (n-1)!\quad\forall n\in\mathbb NΓ(n)=(n1)!nN是通过欧拉积分

Γ ( z ) = ∫ 0 ∞ t z − 1 e − t d t . \Gamma(z) = \int_0^\infty t^{z-1}e^{-t}dt\,.Γ(z)=0tz1etdt.

你可以找到更多关于的信息LaTeX数学表达式here.

新的甘特图功能,丰富你的文章

2014-01-072014-01-092014-01-112014-01-132014-01-152014-01-172014-01-192014-01-21已完成进行中计划一计划二现有任务Adding GANTT diagram functionality to mermaid
  • 关于甘特图语法,参考 这儿,

UML图表

可以使用UML图表进行渲染,例如下面产生的一个序列图:

王五李四张三王五李四张三李四想了很长时间, 文字太长了不适合放在一行.你好!李四, 最近怎么样?你最近怎么样,王五?我很好,谢谢!我很好,谢谢!打量着王五...很好... 王五, 你怎么样?
  • 关于UML图表语法,参考 这儿,

流程图

链接

长方形

圆角长方形

菱形

  • 关于Mermaid语法,参考 这儿,

FLowchart流程图

我们依旧会支持flowchart.js的流程图语法:

Created with Raphaël 2.3.0开始我的操作确认?结束yesno
  • 关于Flowchart流程图语法,参考 这儿.

导出与导入

导出

如果你想尝试使用此编辑器, 你可以在此篇文章任意编辑。当你完成了一篇文章的写作, 在上方工具栏找到文章导出,生成一个.md文件或者.html文件进行本地保存。

导入

如果你想加载一篇你写过的.md文件,在上方工具栏可以选择导入功能进行对应扩展名的文件导入,
继续你的创作。


  1. mermaid语法说明 ↩︎

  2. 注脚的解释 ↩︎

← 返回列表