大模型相关目录
大模型,包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容
从0起步,扬帆起航。
- 大模型应用向开发路径:AI代理工作流
- 大模型应用开发实用开源项目汇总
- 大模型问答项目问答性能评估方法
- 大模型数据侧总结
- 大模型token等基本概念及参数和内存的关系
- 大模型应用开发-华为大模型生态规划
- 从零开始的LLaMA-Factory的指令增量微调
- 基于实体抽取-SMC-语义向量的大模型能力评估通用算法(附代码)
- 基于Langchain-chatchat的向量库构建及检索(附代码)
- 一文教你成为合格的Prompt工程师
- 最简明的大模型agent教程
- 批量使用API调用langchain-chatchat知识库能力
- langchin-chatchat部分开发笔记(持续更新)
- 文心一言、讯飞星火、GPT、通义千问等线上API调用示例
- 大模型RAG性能提升路径
文章目录
- 大模型相关目录
- RAG性能提升方案——探索
- 1. 模型侧性能提升
- 2.数据侧性能提升
- 3.系统侧性能提升
- 4.向量库检索效果提升:
RAG性能提升方案——探索
1. 模型侧性能提升
对相同的检索结果和输入作为拼接测试模型能力
确定性能差距后更换模型、微调模型
2.数据侧性能提升
新增外部信息、提示、工具
需应用思维链(CoT)、agent
3.系统侧性能提升
设计反思+多轮校验的问答机制优化问答能力
4.向量库检索效果提升:
- 文档的切分,如何更好的切分文档?对长文档如何更好的处理进行内容提炼
- 向量化方法,如何更好的向量化数据?
- 相似度阈值的设定,阈值设定低了,可能获取的本地知识库的内容都是和问题不相关的根据默认Prompt的设定会一直得不到结果
- 是否应用摘要、多维query等处理策略?