LangChain+LangGraph实战-1.Agent入门
一. AI通识
1.神经网络原理
AI生产智能的核心有三点：模型、数据、算力
ai核心：神经网络模型，transformer模型
- 模型究竟是如何训练的，怎么理解人类的语言的呢
ai核心：transformer模型，一种神经网络架构，将千千万万个神经元连接起来，就组成了深度神经网络。
深度神经网络分为很多层（Layer），是神经网络基本的计算单元，分为：
- 输入层
- 隐藏层：信息处理与学习，可以有很多层
- 输出层
深度神经网络怎么工作的
1.对每个输入的值先进行加权w，再交给一个激活函数处理
**激活函数:**对前边的结果进行进一步的加工，把它的数值收敛到一定的范围（或者对结果进行一些挑选）。用来把加权和转换成0-1之间的数字，数字越接近1，说明你输入的图像与当前神经元要求的形状也越接近，如果超过一定的值就认为当前的神经元被激活了
权重：起决定性作用。用来控制输入参数对模型结果的影响的一个情况的
加权求和的结果决定了你输入的值与目标到底有多接近。
So，there is a question：每个神经元的权重该设置成多少呢。
一个例子：784个像素点---->784个神经元：需要设定784个权重，如果隐藏层每一层都有16个神经元，那么最终要去设置：78416+1616+16*10=13002
AI训练的难点—>找出正确的权重参数
这个问题在1986年戴维莱姆哈特找到了一个教这个复杂神经网络学习的高效方法，叫做反向传播
反向传播基本流程如下
- 第一件事：前向传播：数据逐层加工，知道输出层产出结果（这个阶段，权重是一个随机值，大概率情况下，它计算出来的数值是不对的）
- 计算误差：计算产出结果与正确结果的误差（Loss）然后就可以有针对性的去调整模型的权重参数了（误差计算：损失函数）
- 怎么调整呢—>反向追责：倒推计算每一层的每个连接对误差的贡献
- 调整权重：根据每个连接的误差贡献比例，调整其权重参数，是误差变小。贡献越大，跳的越多，贡献越小，调整越小（反向追责和调整权重会有专门的梯度下降的算法的）
那我怎么知道每一个连接它的贡献的比例大小呢
最终的产出结果受上一层神经元输入的参数影响，如果上一层的某个神经元的结果比较大，那其会对下一层的影响比较大。
除权重外，值本身的大小也影响下一层的大小。
那么人类的语言文字是怎么参与数学运算，怎么去训练的呢？
2.大语言模型
2003，约书亚.本吉奥提出词向量概念，为训练神经网络学习自然语言模型打下了基础
**词向量：**就是把词转为多维空间向量的一种技术
- 首先，将人类自然语言文字拆分为一个个片段，成为Token（词）
- 每个Token都经过模型计算转为一个浮点数数组，作为向量坐标