适合读者：已经会编程，想系统转向 LLM 应用开发、RAG、Agent、MCP、A2A、多模态和 AI Infra 的程序员。

这份路线不是“名词百科”，而是一条工程学习路径。目标是让你知道：先学什么，为什么学，学到什么程度能做项目，什么时候再进入更难的模型原理、微调和推理优化。

先看总路线

推荐顺序：

Python ↓FastAPI / Git / Docker ↓Prompt Engineering ↓OpenAI API / Claude / Gemini / Qwen 等模型 API ↓AI ChatBot / AI 总结 / AI 写作助手 ↓LangChain / LlamaIndex / Workflow ↓RAG ↓Agent / Tool Calling / Memory / Workflow ↓MCP ↓多模态 / GUI Agent / Computer Use ↓A2A / Multi-Agent / Distributed Agent ↓PyTorch / LoRA / QLoRA / PEFT ↓AI Infra / vLLM / Kubernetes / GPU 推理优化

大白话理解：

• •Prompt：你学会和模型沟通。
• •RAG：你让模型会查企业私有知识。
• •Tool Calling：你让模型能调用函数、数据库、API。
• •Agent：你让模型能规划、调用工具、观察结果、继续执行。
• •MCP：你用标准协议把工具接给模型。
• •A2A：你用标准协议让 Agent 和 Agent 协作。
• •多模态：你让 Agent 能看图、听音频、读文档、操作屏幕。
• •AI Infra：你让模型服务跑得稳、快、省。

为什么按这个顺序学

很多程序员一上来想学 Transformer、PyTorch、微调、CUDA。不是不对，而是投入产出比不高。对多数转型者来说，企业最先需要的是：

1. •能把模型 API 接进业务系统。
2. •能做企业知识库、文档问答、客服助手。
3. •能做 Agent 工作流和工具调用。
4. •能把 MCP / 多模态 / 权限 / 日志 / 部署做成生产系统。

所以路线应该先就业、后深入：

先就业能力：Prompt + API + RAG + Agent 项目再核心能力：MCP + Workflow + Memory + 多模态再高级能力：A2A + 分布式 Agent + AI Infra再算法能力：PyTorch + 微调 + 模型训练原理

第一阶段：AI 与大模型认知（1 周）

1.1 什么是大模型

学习内容

• •GPT / Claude / Gemini / DeepSeek / Qwen / Llama 等模型家族
• •Transformer
• •Token
• •Embedding
• •Attention
• •Context Window
• •Prompt 与 Completion / Response

为什么要学

这一步不是让你推公式，而是让你建立“模型到底在干什么”的基本心智。否则后面看到 Token 成本、上下文长度、RAG、向量数据库、KV Cache，会全部混在一起。

大白话解释

Token 可以理解为模型读写文本时的“最小记账单位”。它不完全等于中文的一个字，也不完全等于英文的一个单词。模型不是按“句子”理解世界，而是把输入拆成 token，再预测下一个 token。

Embedding 是把文字变成一串数字。比如“猫”和“猫咪”变成的向量距离会比较近，“猫”和“挖掘机”的距离通常会远一些。RAG 的语义搜索就靠这个。

Context Window 是模型一次能看到的上下文窗口。它像会议桌：桌子越大，能摊开的资料越多；但桌子再大，也不能无限堆资料，而且堆太多会变贵、变慢、变乱。

原理图

用户问题 ↓拆成 Token ↓模型基于上下文预测下一个 Token ↓不断生成 Token ↓形成答案

最小示例

如果你输入：

请把“用户登录失败”改写成更正式的错误提示。

模型不是“真的理解”你公司的登录系统，而是根据训练中学到的语言规律和当前上下文，生成类似：

登录失败，请检查账号、密码或验证码后重试。

学习验收

你应该能解释清楚：

• •Token 为什么会影响成本？
• •Embedding 为什么能做搜索？
• •Context Window 为什么不是越大越好？
• •大模型为什么会一本正经地编错内容？

1.2 当前主流模型生态

学习内容

• •OpenAI GPT 系列
• •Anthropic Claude 系列
• •Google Gemini 系列
• •DeepSeek
• •Qwen
• •Llama
• •开源模型与闭源模型的差异

为什么要学

AI 工程师不是只会调一个模型，而是要知道不同模型的适用场景：

• •闭源 API：上手快、能力强、维护成本低。
• •开源模型：可私有化、可定制、对合规更友好，但运维成本更高。

示例：如何选模型

注意

模型生态变化很快。学习时不要死背型号，要掌握评估方法：准确率、延迟、成本、上下文长度、工具调用能力、多模态能力、合规与部署方式。

1.3 AI 行业岗位方向

学习内容

• •LLM 应用开发工程师
• •RAG 工程师
• •Agent 工程师
• •AI Infra 工程师
• •大模型算法 / 微调工程师

大白话解释

• •LLM 应用工程师：把模型接到产品里。
• •RAG 工程师：让模型会查公司文档。
• •Agent 工程师：让模型会调用工具、执行任务。
• •AI Infra 工程师：让模型服务稳定、可观测、可扩展。
• •算法 / 微调工程师：训练或定制模型。

推荐定位

对大多数程序员，优先路线是：

LLM 应用工程师 → RAG 工程师 → Agent 工程师 → AI Infra / 多模态 Agent

第二阶段：Python 与工程基础（2～4 周）

2.1 Python 基础

学习内容

• •函数、类、模块
• •async / await
• •requests / httpx
• •typing / pydantic
• •json
• •文件读写
• •环境变量

为什么要学

AI 生态大量工具都优先支持 Python，例如 LangChain、LlamaIndex、FastAPI、PyTorch、Transformers、向量数据库 SDK 等。

最小示例：读取环境变量并请求 API

import osimport httpxapi_key = os.getenv("OPENAI_API_KEY")async def call_api(): async with httpx.AsyncClient(timeout=30) as client: response = await client.get( "https://api.example.com/health", headers={"Authorization": f"Bearer {api_key}"}, ) return response.json()

大白话解释

AI 应用本质上仍然是后端工程：接收请求、调用模型、处理工具、保存状态、返回结果。Python 只是这个生态里最顺手的胶水语言。

2.2 FastAPI

学习内容

• •REST API
• •路由
• •Pydantic 数据模型
• •Streaming / SSE
• •文件上传
• •中间件

为什么要学

很多 AI 产品都需要把模型能力封装成服务：前端传问题，后端调用模型，模型边生成边返回给前端。

最小示例：AI 服务接口骨架

from fastapi import FastAPIfrom pydantic import BaseModelapp = FastAPI()class ChatRequest(BaseModel): message: str@app.post("/chat")async def chat(req: ChatRequest): return {"answer": f"收到：{req.message}"}

学习验收

你能完成：

• •一个/chat接口。
• •一个/upload文件上传接口。
• •一个 SSE 流式输出接口。
• •用 Docker 启动服务。

2.3 Git / GitHub

学习内容

• •branch
• •commit
• •PR
• •code review
• •README
• •issue

为什么要学

AI 项目同样是软件项目。没有 Git 协作能力，后续做 Agent 工程、RAG 项目、模型服务都会很难维护。

学习验收

你应该能维护一个作品集仓库，包括：

• •清晰 README。
• •安装步骤。
• •环境变量说明。
• •示例截图。
• •架构图。

2.4 Linux / Docker

学习内容

• •Linux 基础命令
• •Dockerfile
• •docker-compose
• •日志查看
• •端口映射
• •镜像构建

为什么要学

AI 应用最终要部署。模型 API、向量数据库、Redis、Postgres、任务队列，经常需要容器化编排。

示例架构

Browser ↓FastAPI AI Server ↓ ↓LLM API Vector DB ↓ ↓Logs Redis / Postgres

第三阶段：Prompt Engineering（1～2 周）

3.1 Prompt 基础

学习内容

• •Role Prompt
• •Few-shot
• •Chain-of-Thought 的使用边界
• •ReAct 思想
• •约束输出
• •错误示例与反例

为什么要学

Prompt 是 AI 应用的第一层控制面。虽然 2026 年以后“只会 Prompt”不够，但不会 Prompt，后面的 RAG、Agent、工具调用都很难做好。

大白话解释

Prompt 不是“玄学咒语”，更像给实习生写任务说明：背景、目标、输入、输出格式、限制、例子、验收标准越清楚，结果越稳定。

示例：差 Prompt 与好 Prompt

差 Prompt：

帮我总结一下。

好 Prompt：

你是资深技术编辑。请把下面材料总结成面向后端工程师的学习笔记。要求：1. 先给 5 条结论。2. 再按“背景、核心概念、工程实践、常见误区”组织。3. 不要编造材料中没有的信息。4. 如果信息不足，请标注“资料未提供”。

3.2 Structured Output

学习内容

• •JSON 输出
• •JSON Schema
• •Pydantic / Zod
• •结构化解析
• •错误处理与重试

官方事实

OpenAI 官方文档说明：Structured Outputs 可以让模型输出遵循你提供的 JSON Schema；JSON mode 只保证有效 JSON，不保证符合具体 schema。能用 Structured Outputs 时优先使用它。

大白话解释

普通回答像一段话，程序很难稳定读取；结构化输出像表单，每个字段都有名字和类型，后端才能放心处理。

示例：需求提取 Schema

{ "type": "object", "properties": { "feature": { "type": "string" }, "user_role": { "type": "string" }, "acceptance_criteria": { "type": "array", "items": { "type": "string" } } }, "required": ["feature", "user_role", "acceptance_criteria"], "additionalProperties": false}

学习验收

你能把一段用户需求解析成稳定 JSON，并在字段缺失时让程序报错或重试。

3.3 OpenAI API / 模型 API

学习内容

• •Chat / Responses API
• •Streaming
• •Tool Calling
• •图片输入
• •音频输入输出
• •错误处理
• •速率限制

最小工程图

Frontend ↓ HTTPBackend ↓ Model APILLM ↓ stream tokensBackend ↓ SSE/WebSocketFrontend

第四阶段：AI 应用开发（2～3 周）

4.1 AI ChatBot

学习内容

• •对话历史
• •上下文裁剪
• •用户会话
• •系统提示词
• •安全与拒答

大白话解释

ChatBot 不是把所有历史一股脑塞给模型。你需要决定：哪些历史重要、哪些可以摘要、哪些必须丢弃。

示例：上下文管理

用户第 1 轮：介绍项目背景用户第 2 轮：提出问题用户第 3 轮：补充约束发送给模型时：- 保留当前问题- 保留关键约束- 摘要早期背景- 丢弃寒暄和重复内容

4.2 AI Web 应用

学习内容

• •前后端联调
• •SSE / WebSocket
• •Token Streaming
• •取消生成
• •重试
• •用户反馈

示例：为什么需要流式输出

如果一次性等模型生成完再返回，用户可能等 20 秒。流式输出可以让用户 1 秒内看到第一个字，体验差别巨大。

非流式：用户等待 → 等待 → 等待 → 一次性显示流式：用户等待 → 逐字/逐段显示 → 可随时停止

4.3 项目实践

初级项目

1. •AI 翻译
2. •AI 总结
3. •AI 写作助手
4. •会议纪要生成器

学习验收

每个项目至少包含：

• •后端 API。
• •前端页面。
• •模型调用。
• •错误处理。
• •README。
• •部署方式。

第五阶段：LangChain 与 AI 框架（2～3 周）

5.1 LangChain

学习内容

• •PromptTemplate
• •Chain
• •Tool
• •Memory
• •Callback / Streaming

为什么要学

LangChain 把 Prompt、模型、工具、检索、Agent 组织成可复用组件。它不是必须，但能帮你理解 AI 应用工程的通用抽象。

大白话解释

你可以把 LangChain 理解成“AI 应用的 Spring / Django 式工具箱”：不一定每个项目都必须用，但它定义了很多行业通用说法。

5.2 LlamaIndex

学习内容

• •文档加载
• •索引
• •Query Engine
• •Retrieval
• •Node / Chunk

为什么要学

LlamaIndex 更偏数据和文档索引，适合学习 RAG 的数据管道。

5.3 Workflow

学习内容

• •工作流编排
• •状态流转
• •分支
• •重试
• •人工确认

示例：AI 审批工作流

用户提交报销单 ↓文档识别 Agent 提取金额和发票 ↓规则校验 Tool 检查金额 ↓财务 Agent 判断风险 ↓需要人工确认？ ├─ 是：发送审批任务 └─ 否：自动归档

第六阶段：RAG（核心阶段，1～2 个月）

6.1 Embedding

官方事实

OpenAI 官方文档把 embedding 定义为浮点数向量；两个向量之间的距离可衡量文本相关性。常见用途包括搜索、聚类、推荐、异常检测、分类等。

大白话解释

Embedding 就是给文字办一张“语义身份证”。意思相近的文本，身份证号码在向量空间里更接近。

RAG 基本流程图

离线阶段：文档 → 切块 → Embedding → 向量数据库在线阶段：用户问题 → Embedding → 相似度检索 → 取回片段 → 拼进 Prompt → 模型回答

6.2 向量数据库

学习内容

• •Chroma
• •Milvus
• •Qdrant
• •FAISS
• •pgvector

怎么选

6.3 文档处理

学习内容

• •Chunk
• •Overlap
• •Semantic Chunk
• •Markdown / PDF / Word 解析
• •表格处理
• •元数据

大白话解释

RAG 不是把整个 PDF 塞给模型，而是先把资料切成模型容易使用的小片段。切太大，检索不准；切太小，语义不完整。

示例

原文：一份 80 页制度文档错误切法：每 1000 字硬切，标题和正文断开更好切法：按标题层级切，保留章节路径、页码、来源

6.4 检索优化

学习内容

• •Hybrid Search
• •BM25
• •Rerank
• •Query Rewrite
• •Metadata Filter
• •Answer with citations

大白话解释

向量检索擅长找“意思相近”，BM25 擅长找“关键词精确命中”。企业搜索常常要两者结合。

用户问：“年假结转规则是什么？”向量搜索：找到“休假管理制度”相关片段BM25：精确命中“年假”“结转”Rerank：重新排序，选最可靠片段

6.5 RAG 项目

推荐项目

1. •企业知识库
2. •PDF 问答
3. •AI 客服
4. •研发规范问答
5. •合同条款检索助手

学习验收

一个合格 RAG 项目要有：

• •文档导入。
• •切块策略。
• •向量化。
• •检索。
• •Rerank 或至少重排策略。
• •引用来源。
• •无答案时拒答。
• •评测集。

第七阶段：Agent（核心方向，1～2 个月）

7.1 Tool Calling

官方事实

OpenAI 官方文档把 Tool Calling 描述为模型访问外部功能和数据的方式。典型流程是：应用把可调用工具发给模型，模型返回工具调用请求，应用执行代码，再把工具结果返回给模型，模型生成最终回答。

大白话解释

模型本身不会真的查数据库。它只是说：“我想调用get_order_status(order_id=123)”。真正执行函数的是你的程序。

Tool Calling 流程图

用户：查一下订单 123 ↓模型：我要调用 get_order_status({order_id: "123"}) ↓你的后端：执行数据库查询 ↓你的后端：把查询结果交回模型 ↓模型：组织自然语言回答用户

最小工具定义示例

{ "type": "function", "name": "get_order_status", "description": "查询订单当前状态", "parameters": { "type": "object", "properties": { "order_id": { "type": "string", "description": "订单编号" } }, "required": ["order_id"], "additionalProperties": false }, "strict": true}

7.2 Agent Framework

学习内容

• •LangGraph
• •CrewAI
• •AutoGen
• •OpenAI Agents SDK / 各厂商 Agent SDK

大白话解释

Agent 不是“模型变聪明了”，而是你给它搭了一个循环：计划、调用工具、观察结果、继续计划，直到任务完成或需要人类介入。

Plan → Act → Observe → Decide → Act → Observe → Final

7.3 Agent Workflow

学习内容

• •Planner
• •Executor
• •Router
• •Coordinator
• •Human-in-the-loop
• •Guardrails

示例：代码修复 Agent

用户：修复测试失败 ↓Planner：分析失败原因 ↓Executor：读取文件、修改代码 ↓Tool：运行测试 ↓如果失败：继续分析 ↓如果通过：总结修改

7.4 Memory 系统

学习内容

• •Short-term Memory
• •Long-term Memory
• •Vector Memory
• •Profile Memory
• •Episodic Memory

大白话解释

Memory 不是“把所有聊天记录存起来”。真正有用的记忆是经过筛选、结构化、可检索、可更新的。

短期记忆：本次对话里的上下文长期记忆：用户偏好、项目规则、长期事实向量记忆：用语义搜索找相关历史

7.5 Multi-Agent

学习内容

• •多 Agent 协作
• •Agent Routing
• •专家 Agent
• •角色分工
• •结果合并

示例

总控 Agent ├─ 需求分析 Agent ├─ 架构设计 Agent ├─ 代码实现 Agent ├─ 测试 Agent └─ 文档 Agent

说真的，这两年看着身边一个个搞Java、C++、前端、数据、架构的开始卷大模型，挺唏嘘的。大家最开始都是写接口、搞Spring Boot、连数据库、配Redis，稳稳当当过日子。

结果GPT、DeepSeek火了之后，整条线上的人都开始有点慌了，大家都在想：“我是不是要学大模型，不然这饭碗还能保多久？”

我先给出最直接的答案：一定要把现有的技术和大模型结合起来，而不是抛弃你们现有技术！掌握AI能力的Java工程师比纯Java岗要吃香的多。

即使现在裁员、降薪、团队解散的比比皆是……但后续的趋势一定是AI应用落地！大模型方向才是实现职业升级、提升薪资待遇的绝佳机遇！

这绝非空谈。数据说话

2025年的最后一个月，脉脉高聘发布了《2025年度人才迁徙报告》，披露了2025年前10个月的招聘市场现状。

AI领域的人才需求呈现出极为迫切的“井喷”态势

2025年前10个月，新发AI岗位量同比增长543%，9月单月同比增幅超11倍。同时，在薪资方面，AI领域也显著领先。其中，月薪排名前20的高薪岗位平均月薪均超过6万元，而这些席位大部分被AI研发岗占据。

与此相对应，市场为AI人才支付了显著的溢价：算法工程师中，专攻AIGC方向的岗位平均薪资较普通算法工程师高出近18%；产品经理岗位中，AI方向的产品经理薪资也领先约20%。

当你意识到“技术+AI”是个人突围的最佳路径时，整个就业市场的数据也印证了同一个事实：AI大模型正成为高薪机会的最大源头。

最后

我在一线科技企业深耕十二载，见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事，早已在效率与薪资上形成代际优势，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。

我整理出这套 AI 大模型突围资料包【允许白嫖】：

• ✅从入门到精通的全套视频教程
• ✅AI大模型学习路线图（0基础到项目实战仅需90天）
• ✅大模型书籍与技术文档PDF
• ✅各大厂大模型面试题目详解
• ✅640套AI大模型报告合集
• ✅大模型入门实战训练

这份完整版的大模型 AI 学习和面试资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

①从入门到精通的全套视频教程

包含提示词工程、RAG、Agent等技术点

② AI大模型学习路线图（0基础到项目实战仅需90天）

全过程AI大模型学习路线

③学习电子书籍和技术文档

市面上的大模型书籍确实太多了，这些是我精选出来的

④各大厂大模型面试题目详解

⑤640套AI大模型报告合集

⑥大模型入门实战训练

👉获取方式：
有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓