三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

后端工程师做 Agent,要跨过这 9 道认知坎

后端工程师做 Agent,要跨过这 9 道认知坎

1 接受系统不再每次走同一条路

后端工程师很习惯一件事,相同输入,应该得到相同输出。

可 Agent 面对的是自然语言和开放任务。同一句话换个上下文,它可能选择不同工具,也可能走出不同执行路径。

刚开始接触时,这种感觉真的很难受。第一反应往往是增加规则,把所有路径重新固定下来。

但 Agent 工程要追求的,不是每一次路径都完全相同,而是不同路径都不越过边界,并且大概率抵达正确结果。

落到工程上,就是提前设置权限、预算、超时、停止条件和人工接管点,再通过评测盯住结果。

管理不确定性,不是消灭它。

2 不再替 Agent 写完每一步

传统后端拿到需求,习惯把它拆成一条完整流程。

第一步做什么,第二步调用谁,失败走哪个分支,全部提前写清楚。

做 Agent 时,如果还是这样拆,最后很容易得到一个自然语言包装的工作流。

更合适的设计方式,是告诉 Agent 目标是什么,它能看到哪些信息,可以使用哪些工具,什么情况算完成,哪些事情绝对不能做。

给它地图,不替它走路。

我的判断标准很简单。如果一个环节没有任何判断空间,就放进代码。如果下一步会随着用户意图和环境变化,就考虑留给 Agent。

3 接口成功,不等于事情办成

后端系统很容易判断一次调用是否成功。

状态码对了,数据写进去了,消息发出去了,这次请求就算结束。

但在 Agent 系统里,所有接口都可能成功,用户的事情却没有办成。

邮件发送成功了,但收件人错了。资料搜索完成了,但回答漏掉了最重要的限制条件。工单创建成功了,但用户真正想要的是退款。

所以测试 Agent,不能只测试工具有没有调用成功,还要检查用户任务有没有真正完成。

过去测试逻辑,现在还要测试行为。

4 Agent 最危险的失败,往往没有报错

传统系统的失败很显眼。

超时、异常、数据库写入失败,我们可以捕获,可以报警,也可以重试。

Agent 的很多失败却会正常返回。

它可能理解错了,选错了工具,漏做了一步,甚至沿着错误方向非常顺畅地把整件事做完。

这种失败,靠try catch抓不到。

我们需要给关键步骤增加验证,给高风险动作增加审批,证据不足时允许它停下来,任务完成前再检查一次结果。

Agent 工程不只是处理报错,还要让那些没有报错的错误,也能被看见、停住和恢复。

5 工具不只要能调用,还要让模型看懂

过去设计 API,只要名称、参数和返回值对程序员足够清楚,基本就可以了。

但 Agent 的工具,还有一个新的使用者,模型。

一个叫searchData的接口,在代码里没有问题。可模型不知道该什么时候用,也不知道它查的是客户、订单还是知识库。

如果改成「查询客户近 30 天订单」,再写清适用场景、参数含义、返回内容和失败后的处理方式,模型选对工具的概率会高很多。

有时候 Agent 看起来很笨,不一定是模型不够强,也可能是我们给它的工具太难懂。

API 给程序用,工具还要给模型读。

6 Hook 应该管底线,不应该接管思考

我越来越喜欢一种分工。

权限、事务、幂等和数据一致性,交给代码。

预算、审批、超时和危险动作,交给 Hook。

领域经验、工作方法和检查清单,放进 Skill。

意图理解、任务规划和动态调整,留给 Agent。

这几层不是互相替代,而是各自负责自己最擅长的部分。

Hook 是护栏,不是轨道。

护栏守住不能越过的地方。轨道却会规定 Agent 每一步只能怎么走。一旦护栏被修成轨道,Agent 的智能也就没有多少空间了。

7 出问题时,别只盯着代码

传统系统出了 Bug,我们习惯沿着调用链找代码。

Agent 出了问题,还要多问几句。

它当时看到了什么上下文,检索到了哪些资料,加载了哪个 Skill,工具描述是什么,为什么判断任务已经完成。

同一段代码,只要模型版本、Prompt、上下文或者工具返回发生变化,行为就可能完全不同。

所以 Agent 的可观测性,不能只有错误日志和耗时。还需要保留它看到了什么、做了什么,以及为什么做出这个选择。

查 Agent 的 Bug,其实是在还原它当时看到的世界。

8 Agent 上线,才是调教的开始

传统功能上线以后,只要没有 Bug,可能很长时间不用调整。

Agent 不太一样。

用户会不断发明新的说法,业务知识会变化,工具会增加,模型升级以后,过去表现很好的问题也可能突然退化。

所以 Agent 上线以后,要持续收集真实问题,整理 Bad Case,把典型失败放进评测集,再去调整 Skill、工具和上下文。

每次修改以后,还要重新跑一遍旧问题。

这件事有点像带一个新人。不是培训一次就结束,而是在真实工作里不断反馈,让它慢慢形成稳定能力。

Agent 不是交付一次,是持续养能力。

9 别先问模型能做什么,先问用户要办成什么

做 Agent 时,我们很容易从技术能力出发。

这个模型会总结,会写 SQL,会调用工具,还能自己规划任务。听起来每一项都很厉害。

可用户真正关心的,通常不是这些。

他想处理完一次投诉,完成一笔退款,拿到一份可信报表,或者把一个来回协调半天的流程真正推进下去。

如果 Agent 只帮用户完成其中一步,剩下的还要人来回搬运,它可能只是一个更聪明的功能,并没有真正成为 Agent。

模型能力是零件,用户任务才是要交付的东西。

最后

对于正在迷茫择业、想转行提升,或是刚入门的程序员、编程小白来说,有一个问题几乎人人都在问:未来10年,什么领域的职业发展潜力最大?

答案只有一个:人工智能(尤其是大模型方向)

当下,人工智能行业正处于爆发式增长期,其中大模型相关岗位更是供不应求,薪资待遇直接拉满——字节跳动作为AI领域的头部玩家,给硕士毕业的优质AI人才(含大模型相关方向)开出的月基础工资高达5万—6万元;即便是非“人才计划”的普通应聘者,月基础工资也能稳定在4万元左右

再看阿里、腾讯两大互联网大厂,非“人才计划”的AI相关岗位应聘者,月基础工资也约有3万元,远超其他行业同资历岗位的薪资水平,对于程序员、小白来说,无疑是绝佳的转型和提升赛道。

如果你还不知道从何开始,我自己整理一套全网最全最细的大模型零基础教程,我也是一路自学走过来的,很清楚小白前期学习的痛楚,你要是没有方向还没有好的资源,根本学不到东西!

下面是我整理的大模型学习资源,希望能帮到你。

👇👇扫码免费领取全部内容👇👇

最后

1、大模型学习路线

2、从0到进阶大模型学习视频教程

从入门到进阶这里都有,跟着老师学习事半功倍。

3、 入门必看大模型学习书籍&文档.pdf(书面上的技术书籍确实太多了,这些是我精选出来的,还有很多不在图里)

4、AI大模型最新行业报告

2026最新行业报告,针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

5、面试试题/经验

【大厂 AI 岗位面经分享(107 道)】

【AI 大模型面试真题(102 道)】

【LLMs 面试真题(97 道)】

6、大模型项目实战&配套源码

适用人群

四阶段学习规划(共90天,可落地执行)
第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型

  • 带你了解全球大模型

  • 使用国产大模型服务

  • 搭建 OpenAI 代理

  • 热身:基于阿里云 PAI 部署 Stable Diffusion

  • 在本地计算机运行大模型

  • 大模型的私有化部署

  • 基于 vLLM 部署大模型

  • 案例:如何优雅地在阿里云私有部署开源大模型

  • 部署一套开源 LLM 项目

  • 内容安全

  • 互联网信息服务算法备案

  • 👇👇扫码免费领取全部内容👇👇

3、这些资料真的有用吗?

这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理,现任上海殷泊信息科技CEO,其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证,服务航天科工、国家电网等1000+企业,以第一作者在IEEE Transactions发表论文50+篇,获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的技术人员,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

← 返回列表