大模型面试题最全总结，没有一道是送分题。。。

节前，我们组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂同学、参加社招和校招面试的同学，针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。

今天分享大模型面试相关知识点，持续更新，希望对后续找工作的有所帮助。喜欢记得点赞、收藏、关注。更多技术交流&面经学习，可以文末加入我们交流群。

1. RAG技术体系的总体思路

数据预处理->分块（这一步骤很关键，有时候也决定了模型的效果）->文本向量化->query向量化->向量检索->重排->query+检索内容输入LLM->输出

2. 使用外挂知识库主要为了解决什么问题

  • 克服遗忘问题

  • 提升回答的准确性、权威性、时效性

  • 解决通用模型针对一些小众领域没有涉猎的问题

  • 提高可控性和可解释性，提高模型的可信度和安全性

3. 如何评价RAG项目效果的好坏

针对检索环节的评估：

  • MMR 平均倒排率：查询（或推荐请求）的排名倒数

  • Hits Rate 命中率：前k项中，包含正确信息的项的数目占比

  • NDCG

针对生成环节的评估：

  • 非量化：完整性、正确性、相关性

  • 量化：Rouge-L

4. 大模型的幻觉问题、复读机问题是什么

幻觉问题：即生成的内容是无意义的或不忠实于提供的源内容

复读机问题：重复生成某些话

5. 针对问题4，有没有什么解决办法

针对幻觉问题：引入外挂知识库，加入一些纠偏规则，限制输出长度等

针对复读机问题：

  • 丰富数据集的多样性，预处理时尽量过滤重复无意义的文本

  • 同义词替换等做数据增强

  • 温度参数调整

  • 后处理与过滤

6. 出现问题4的原因有哪些

7. 当前主流的开源大模型是哪个，其架构具体是怎样的？

当前开源影响范围最广，生态建设最好的开源大模型是Meta的LLaMA。其依旧采用Transformers架构，并做了如下改动：

  • 为了提高训练稳定性，对每个子层做输入前置归一化，归一化函数为RMSNorm（受GPT-3启发）

  • 为了提升性能，SwiGLU激活函数替换ReLU激活函数（受PaLM启发）

  • 从绝对位置嵌入，改为旋转嵌入（受GPT-neo启发）

  • 使用causal multi-head attention的一个高效实现来减少内存占用和运行时间

8. 有哪几种SFT方法

9. 什么是lora微调

12. 什么是LangChain

13. LangChain的常用模块有哪些？

14. SFT和RLHF优劣对比

在这里插入图片描述

15. 详细介绍一下RLHF

16. 大模型训练经常出现一些OOM问题，在现有硬件基础下，有什么性能提升trick

17. LLaMA模型输入句子理论上可以无限长吗？

18. 如何让大模型处理更长的文本？

19. 大模型推理时，显存中有那几部分数据？

20. 介绍下ChatGLM

21. 介绍下GLU激活函数和SwiGLU激活函数

22. LLaMA1/2的异同

23. 模型在训练和推理的时候各占用显存的多少？

24. 详细说说Deepspeed的机制

25. 什么是混合精度训练

26. 什么是prefix LLM和casual LLM

27. 说一说针对MHA后续的一些计算优化工作

28. 说说attention几种常见的计算方式

技术交流&资料

技术要学会分享、交流，不建议闭门造车。一个人可以走的很快、一堆人可以走的更远。

成立了大模型面试和技术交流群，相关资料、技术交流&答疑，均可加我们的交流群获取，群友已超过2000人，添加时最好的备注方式为：来源+兴趣方向，方便找到志同道合的朋友。

方式①、微信搜索公众号：机器学习社区，后台回复：加群
方式②、添加微信号：mlc2040，备注：来自CSDN + 技术交流

通俗易懂讲解大模型系列

  • 做大模型也有1年多了，聊聊这段时间的感悟！

  • 用通俗易懂的方式讲解：大模型算法工程师最全面试题汇总

  • 用通俗易懂的方式讲解：不要再苦苦寻觅了！AI 大模型面试指南（含答案）的最全总结来了！

  • 用通俗易懂的方式讲解：我的大模型岗位面试总结：共24家，9个offer

  • 用通俗易懂的方式讲解：大模型 RAG 在 LangChain 中的应用实战

  • 用通俗易懂的方式讲解：一文讲清大模型 RAG 技术全流程

  • 用通俗易懂的方式讲解：如何提升大模型 Agent 的能力?

  • 用通俗易懂的方式讲解：ChatGPT 开放的多模态的DALL-E 3功能，好玩到停不下来！

  • 用通俗易懂的方式讲解：基于扩散模型（Diffusion）,文生图 AnyText 的效果太棒了

  • 用通俗易懂的方式讲解：在 CPU 服务器上部署 ChatGLM3-6B 模型

  • 用通俗易懂的方式讲解：使用 LangChain 和大模型生成海报文案

  • 用通俗易懂的方式讲解：ChatGLM3-6B 部署指南

  • 用通俗易懂的方式讲解：使用 LangChain 封装自定义的 LLM，太棒了

  • 用通俗易懂的方式讲解：基于 Langchain 和 ChatChat 部署本地知识库问答系统

  • 用通俗易懂的方式讲解：在 Ubuntu 22 上安装 CUDA、Nvidia 显卡驱动、PyTorch等大模型基础环境

  • 用通俗易懂的方式讲解：Llama2 部署讲解及试用方式

  • 用通俗易懂的方式讲解：基于 LangChain 和 ChatGLM2 打造自有知识库问答系统

  • 用通俗易懂的方式讲解：一份保姆级的 Stable Diffusion 部署教程，开启你的炼丹之路

  • 用通俗易懂的方式讲解：对 embedding 模型进行微调，我的大模型召回效果提升了太多了

  • 用通俗易懂的方式讲解：LlamaIndex 官方发布高清大图，纵览高级 RAG技术

  • 用通俗易懂的方式讲解：为什么大模型 Advanced RAG 方法对于AI的未来至关重要？

  • 用通俗易懂的方式讲解：使用 LlamaIndex 和 Eleasticsearch 进行大模型 RAG 检索增强生成

  • 用通俗易懂的方式讲解：基于 Langchain 框架，利用 MongoDB 矢量搜索实现大模型 RAG 高级检索方法

  • 用通俗易懂的方式讲解：使用Llama-2、PgVector和LlamaIndex，构建大模型 RAG 全流程

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.mfbz.cn/a/470091.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

视频素材免费下载素材库哪里有？推荐8个高清无水印素材网

视频素材免费下载素材库哪里有？推荐8个高清无水印素材网

在这个数字化时代，无论是专业的内容创作者还是日常的社交媒体使用者，我们都会寻找高质量的素材来丰富我们的作品或帖子。从令人震撼的摄影作品到高分辨率的视频素材，再到生动的GIF和必需的设计元素，素材的需求无处不在。 视频素材…
阅读更多...
DZY-212中间继电器 DC 220V 板后接线 面板安装 JOSEF约瑟

DZY-212中间继电器 DC 220V 板后接线 面板安装 JOSEF约瑟

系列型号: DZY-200系列中间继电器；DZY-201中间继电器； DZY-202中间继电器；DZY-203中间继电器； DZY-204中间继电器；DZY-205中间继电器； DZY-206中间继电器；DZY-207中间继电器； DZY-20…
阅读更多...
Leetcode 70.爬楼梯

Leetcode 70.爬楼梯

心路历程： 这道题是之前学院的一道复试题，大家都没怎么刷过算法题，只记得当年凭借几次试错自己把这道题做出来了，当时也不知道动态规划之类的。 正常来讲，这种找不到循环结构的题一般都是递归解决。 注意的点&#x…
阅读更多...
js 中文乱码解决、乱码对照

js 中文乱码解决、乱码对照

1、js iso-8859-1转utf-8 在JavaScript中，可以使用内置的TextEncoder和TextDecoderAPI来实现ISO-8859-1编码和UTF-8编码之间的转换。以下是一个将ISO-8859-1编码的字符串转换为UTF-8编码的示例代码： function convertISO88591ToUTF8(isoString) {// 将…
阅读更多...
上班族兼职宝典：五个副业赚钱项目助你财富增值

上班族兼职宝典：五个副业赚钱项目助你财富增值

在快节奏的现代生活中，许多上班族已不再满足于固定的月薪，纷纷寻求额外收入来源以缓解生活压力。副业赚钱作为一种有效途径，正逐渐受到他们的青睐。为此，我们为上班族精心挑选了五种可行的副业赚钱方式，助力他们在工作…
阅读更多...
蓝牙耳机连上电脑后播放音频一卡一卡的还有声音变形，电脑连接后总是容易断开蓝牙

蓝牙耳机连上电脑后播放音频一卡一卡的还有声音变形，电脑连接后总是容易断开蓝牙

蓝牙耳机连上电脑后播放音频一卡一卡的还有声音变形，电脑连接后总是容易断开蓝牙 问题描述问题排查可能6可能7电脑蓝牙驱动问题 结语： 问题描述 蓝牙耳机连上电脑后播放音频一卡一卡的还有声音变形，电脑连接后总是容易断开蓝牙。 关键之前我…
阅读更多...
详细教---用Django封装写好的模型

详细教---用Django封装写好的模型

本次我们要用自己写好的热销词条爬虫代码来演示如何用Django把我们写好的模型封装。 第一步：代码准备 热搜词条搜集代码： import requests from lxml import etreeurl "https://tophub.today/n/KqndgxeLl9" headers{User-Agent: Mozilla/5.…
阅读更多...
【Godot4.2】 基于SurfaceTool的3D网格生成与体素网格探索

【Godot4.2】 基于SurfaceTool的3D网格生成与体素网格探索

概述 说明：本文基础内容写于2023年6月，由三五篇文章汇总而成，因为当时写的比较潦草，过去时间也比较久了，我自己都得重新阅读和理解一番，才能知道自己说了什么，才有可能重新优化整理。 因为我对…
阅读更多...
Redis数据结构对象之集合对象和有序集合对象

Redis数据结构对象之集合对象和有序集合对象

集合对象 集合对象的编码可以是intset或者hashtable. 概述 intset编码的集合对象使用整数集合作为底层实现，集合对象包含的所有元素都被保存在整数集合里面。 另一方面，hashtable编码的集合对象使用字典作为底层实现，字典的每个键都是一个…
阅读更多...
H.整数删除【蓝桥杯】优先队列+双向链表

H.整数删除【蓝桥杯】优先队列+双向链表

优先队列 在头文件 < q u e u e > <queue> <queue>中定义方法&#xff1a;priority_queue<储存的类型,vector<储存的类型>,顶堆的类型> 容器名less<储存的数据类型> 即使用大顶堆&#xff0c;即队首为最大元素greater<储存的数据类型&…
阅读更多...
DSP课程学习

DSP课程学习

Some Problem warning #10210-D: creating “.stack” section with default size of 0x400; use the -stack option to change the default size warning #10210-D: creating “.sysmem” section with default size of 0x400; use the -heap option to change the default si…
阅读更多...
153.乐理基础-和弦的织体

153.乐理基础-和弦的织体

内容参考于&#xff1a;三分钟音乐社 上一个内容&#xff1a;152.广义的、实际的原位与转位、转位的意义 上一个内容里练习的答案&#xff1a;和弦的标记有很多种表示法不一定非要和下图中一样&#xff0c;具体参考150.和弦固定标记法&#xff08;一&#xff09;原位三和弦、…
阅读更多...
布料放大100倍后是什么样子

布料放大100倍后是什么样子

说明 生活中绝大多数面料都是人造化学材料做成的。将纺织面料放大100X以上看到的样子都是那种塑料的感觉&#xff0c;和宏观的外观差别很大。我最近在做这方面的事情&#xff0c;这里分享几张布料的放大图片。 放大图片 这些布料看上去都很普通&#xff0c;但是放大后各有特…
阅读更多...
【vue核心技术实战精讲】1.1 Vue开篇介绍 + 1.2 Vue的起步 和 插值表达式

【vue核心技术实战精讲】1.1 Vue开篇介绍 + 1.2 Vue的起步 和 插值表达式

文章目录 准备开始适应人群vue 框架学习路线一、vue 基础1、历史介绍2、前端框架与库的区别? 二、vue的起步 和 插值表达式Stage 1&#xff1a;下载包&#xff0c;并放入项目中Stage 2&#xff1a;编码 准备开始 适应人群 有一定的HTML/CSS/JavaScriptES6基础开发人员 vue …
阅读更多...
RIPGeoo代码理解（一）preprocess.py（预处理数据集并为模型运行执行IP聚类）

RIPGeoo代码理解（一）preprocess.py（预处理数据集并为模型运行执行IP聚类）

代码链接：RIPGeo代码实现 一、导入各种模块和数据库 # Load data and IP clusteringimport math import random import pandas as pd import numpy as np import argparse from sklearn import preprocessing from lib.utils import MaxMinScaler 加载数据和IP聚类，这些导…
阅读更多...
VMware虚拟机硬盘容量扩容方法

VMware虚拟机硬盘容量扩容方法

扩容后不会影响原文件。亲测有效&#xff0c;高效便捷 - 在关机状态下&#xff0c;先在VM上直接扩容硬盘容量&#xff0c;输入扩容后的硬盘最大容量 注意&#xff0c;如果想在原硬盘上增加容量&#xff0c;需要将原来的快照都删除 - 输入最大磁盘大小 运行虚拟机进入系统&…
阅读更多...
HarmonyOS NEXT应用开发之搜索页一镜到底案例

HarmonyOS NEXT应用开发之搜索页一镜到底案例

介绍 本示例介绍使用bindContentCover、transition、animateTo实现一镜到底转场动画&#xff0c;常用于首页搜索框点击进入搜索页场景。 效果图预览 使用说明 点击首页搜索框跳转到搜索页面显式一镜到底转场动画 实现思路 通过点击首页搜索框改变bindContentCover全屏模态…
阅读更多...
修改/etc/resolve.conf重启NetworkManager之后自动还原

修改/etc/resolve.conf重启NetworkManager之后自动还原

我ping 百度报错&#xff1a; [rootk8snode1 ~]# ping baidu.com ping: baidu.com: Name or service not known很明显&#xff0c;这是DNS解析问题。 于是我修改 /etc/resolv.conf 文件后&#xff0c;执行完sudo systemctl restart NetworkManager&#xff0c;/etc/resolv.con…
阅读更多...
3DMAX如何设置最终效果图的渲染参数?干货

3DMAX如何设置最终效果图的渲染参数?干货

电脑如果配置好一点&#xff0c;可以用如下参数 公用:分辨率2500x1875 全局开关-高级&#xff0c;勾选隐藏灯光开始默认灯光&#xff0c;自适应8vray:颜色映射-高级&#xff0c;类型选择线性倍增&#xff0c;暗部倍增0.8&#xff0c;亮部倍增1.0&#xff0c;模式选择仅颜色映…
阅读更多...
MQ之Spring AMQP学习

MQ之Spring AMQP学习

Spring AMQP学习 Spring AMQP AMQP是Advanced Message Queuing Protocol的缩写。AMQP是用于在应用程序之间传递消息的开放标准&#xff0c;该协议与语言和平台无关&#xff0c;更符合微服务中独立性的要求。 Spring AMQP是基于AMQP协议定义的一套API规范&#xff0c;提供了模…
阅读更多...
最新文章

Copyright @ 2022~2023

友情链接： 我的编程经验分享 一条长河网 尧图网站开发 尧图建网站