AIGCinterviewCVinterviewLLMsinterview面试问题与答案集合仓，同时包含工作和科研过程.zip

# **DeepLearning-Interview-Awesome-2024**　 [](./LICENSE.md)  本项目涵盖了**大模型(LLMs)专题**、**计算机视觉与感知算法专题**、**深度学习基础与框架专题**、**自动驾驶、智慧医疗等行业垂域专题**、**手撕项目代码专题**、**优异开源资源推荐专题**共计6大专题模块。我们将持续整理汇总最新的面试题并详细解析这些题目，除面向面试的场景外我们的题目还来源于对最新学术论文创新点的思考，希望能成为大家学术科研、工作创新、offer面试路上一份有效的辅助资料。 ### 项目简介 2024算法面试题目持续更新，具体请 follow [2024年深度学习算法与大模型面试指南](https://github.com/315386775/DeepLearing-Interview-Awesome-2024)，喜欢本项目的请右上角点个star，同时也欢迎大家一起共创该项目。 该项目持续更新： - 本文录入题目的原则：**高新深**，其中高是指-各大厂公司近年高频算法面试题，新是指-题目要新紧跟学术和工业界的发展，比如录入了大量大模型领域的面试题，深是指-题目要有一定的内容与深度，可以引人思考，比如面向业务场景改进的面试题，来源于论文创新点的思考； - 目前录入列表的题目，存在部分没有答案解析的题目，或者解析内容不全的题目，我们会尽快补上所有解析； - 目前录入列表的顺序，没有先后、频次、难度、细类别等维度信息，后续会再给予更多维度更详细的分类； ### 更多干货 欢迎关注微信公众号：***码科智能***，每日八点一刻更新计算机视觉及大模型相关开源项目/代码指南/论文解读等内容。如若下述题目真正帮到你，可以请我喝杯咖啡🆒by Wechat, Thks. <!-- <img src="assert/markai.png" alt="Alt" style="display: block; margin: 0 auto; height: 190px;"> -->  ### 六大专题及题目列表 <b><summary>🏆大模型(LLMs)专题</summary></b> - 大语言模型 | [**01. 模型微调：大模型常用微调方法LORA和Ptuning的原理**](LLMs/Reference.md) | | :------------------------------------------- | | [**30. 模型微调：Instruction Tuning与Prompt tuning方法的区别？**](LLMs/Reference.md) | | [**07. 模型微调：监督微调SFT后LLM表现下降的原因**](LLMs/Reference.md) | | [**18. 模型微调：大模型微调的LORA怎么训练？**](LLMs/Reference.md) | | [**19. 模型微调：LORA的矩阵怎么初始化？为什么要初始化为全0？**](LLMs/Reference.md) | | [**33. 模型微调：进行SFT操作的时候，基座模型选用Chat还是Base?**](LLMs/Reference.md) | | [**03. 模型结构：为何现在的大模型大部分是Decoder only结构**](LLMs/Reference.md) | | [**15. 模型结构：你能否概括介绍一下 ChatGPT 的训练过程？**](LLMs/Reference.md) | | [**16. 模型结构：在大型语言模型 (llms) 上下文中的标记是什么？**](LLMs/Reference.md) | | [**40. 模型结构：GPT3、LLAMA的Layer Normalization 的区别是什么？**](LLMs/Reference.md) | | [**04. 模型优化：如何缓解 LLMs 复读机问题**](LLMs/Reference.md) | | [**14. 模型优化：在大型语言模型 (llms) 中减少幻觉的策略有哪些？**](LLMs/Reference.md) | | [**29. 模型优化：如何提升大语言模型的Prompt泛化性？**](LLMs/Reference.md) | | [**34. 模型优化：开源大模型进行预训练的过程中会加入书籍、论文等数据，这部分数据如何组织与处理?**](LLMs/Reference.md) | | [**38. 模型优化：如何解决chatglm微调的灾难性遗忘问题？**](LLMs/Reference.md) | | [**10. BERT用于分类任务的优点，后续改进工作有哪些？**](LLMs/Reference.md) | | [**23. BERT的预训练任务有什么？为什么引入下一个句子预测任务？**](LLMs/Reference.md) | | [**37. BERT的预训练过程中是否使用了位置编码和注意力机制？**](LLMs/Reference.md) | | [**38. LangChain 通常被用作「粘合剂」，将构建 LLM 应用所需的各个模块连接在一起，请介绍下其核心模块？**](LLMs/Reference.md) | - 视觉模型 | [**01. Stable Diffusion里是如何用文本来控制生成的？**](LLMs/Reference.md) | | :------------------------------------------- | | [**21. Stable Diffusion相比Diffusion主要解决的问题是什么？**](LLMs/Reference.md) | | [**22. Stable Diffusion每一轮训练样本选择一个随机时间步长？**](LLMs/Reference.md) | | [**39. Stable Diffusion的训练过程和预测过程是什么样的？**](LLMs/Reference.md) | | [**11. 基座模型：SAM分割一切网络中的Promot类型以及如何输入进网络**](LLMs/Reference.md) | | [**26. 基座模型：训练通用目标检测器常会使用多源图像进行训练，如何处理新类别歧视？**](LLMs/Reference.md) | | [**27. 基座模型：Grounding DINO可以根据文字提示检测任意目标，简述网络的基本架构？**](LLMs/Reference.md) | | [**28. 基座模型：Grounding DINO如何进行零样本迁移，比如要检测电路板中的电容电阻？**](LLMs/Reference.md) | | [**29. 基座模型：SAM网络轻量化的几种思路，及代表性工作？**](LLMs/Reference.md) | | [**30. Stable Diffusion XL是一个二阶段的级联扩散模型，简述其工作流？**](LLMs/Reference.md) | | [**31. 将文本与图像的语义信息进行Attention机制，而Text Condition是三维的，而Latent Feature是四维的？**](LLMs/Reference.md) | | [**32. 举例介绍SDXL模型的文本编码全过程？**](LLMs/Reference.md) | | [**33. 在SD 1.4和SD 1.5的经典失败案例中，生成图像中的猫出现头部缺失的问题的本质原因及优化方案？**](LLMs/Reference.md) | | [**34. DINOv2创建了一个新的高质量数据集, 其中处理过程中用到了去重和检索，简述其步骤？**](LLMs/Reference.md) | | [**35. 简述DINOv2训练中 Image-level 和 Patch-level 的目标函数？**](LLMs/Reference.md) | - 通用问题 | [**01. 为什么Transformer中使用LayerNorm而不是BatchNorm？**](LLMs/Reference.md) | | :------------------------------------------- | | [**06. Transformer为何使用多头注意力机制**](LLMs/Reference.md) | | [**32. Transformer中的Attention计算复杂度以及如何改进？**](LLMs/Reference.md) | | [**12. Transformer的层融合是如何做到的，其中Residue Network与Layer Norm如何算子融合**](LLMs/Reference.md) | | [**41. MHA多头注意力和MQA多查询注意力的区别？**](LLMs/Reference.md) | | [**17. Adaptive Softmax在大型语言模型中有何用处？**](LLMs/Reference.md) | | [**31. 知识蒸馏是将复杂模型的知识转移到简单模型的方法，针对知识蒸馏有哪些改进点？**](LLMs/Reference.md) | | [**42. 推理优化技术 Flash Attention 的作用是什么？**](LLMs/Reference.md) | | [**43. ZeRO，零冗余优化器的三个阶段？**](LLMs/Reference.md) | | [**44. Mamba 对 RNN 做了哪些改变，从而在GPU上可以算的比较快？**](LLMs/Reference.md) | - 多模态模型/强化学习/AGI等 | [**01. 举例说明强化学习如何发挥作用？**](LLMs/Reference.md) | | :------------------------------------------- | | [**28. 如何理解强化学习中的奖励最大化�