深度学习数学、模型结构和基础应用.zip

# 深度学习基础 > [深度学习基础Github](https://github.com/erenup/deeplearningbasics) > > 欢迎来到深度学习基础教程。本教程面向所有**深度学习爱好者/学生/求职人员/算法工程师新手**，希望能从深度学习数学知识、深度学习模型基础、深度学习应用等三个方面对深度学习相关内容进行总结学习。 > > 笔者在自学深度学习的过程中，发现大部分教程、资料对于深度学习所涉及的数学知识、实践操作讲解并不能让自己完全理解，所以在学习了李沐老师的《动手学深度学习》、斯坦福cs224n、斯坦福231n等各个经典课程之后，笔者将学习过程进行总结，也算是对自己知识体系的一个梳理。 > > 希望读者在看完本教程之后，能基于高中数学/大学本科一年级数学基础知识和简单的Python编程知识来对深度学习知识进行扎实学习和应用。 > > 本教程做为交流学习使用，整理了众多资料，由于自己精力有限，暂时无法对所有内容进行重写和图片自创. 本教程参考了北京理工大学毛京中老师的《高等数学》、李沐老师的《动手学深度学习》、斯坦福cs231n、斯坦福224n、各知乎精华问答、各大牛博客知识，如果**涉及侵权请联系我删除**，谢谢！ > > 如果您在文章中发现错误之处，请帮忙在github提交issue/request，我将及时进行修正，谢谢！ > <!-- docs/_sidebar.md --> ## 使用说明 - **深度学习数学基础**从标量、向量、矩阵、张量讲起，然后逐步展开求导、偏导、方向导数、梯度，最后对单层神经网络进行了求梯度演示。 - **深度学习模型基础**希望能够对常用的模型结构（transformer、lstm、cnn、mlp）进行通俗易懂的讲解。 - **深度学习应用**希望能为常见的深度学习任务提供详细的例子，帮助读者一步步读取数据、预处理数据、调用正确的模型、运行模型、后处理模型预测结果、得到接近SOTA的结果。 ## 主要内容-持续更新中 * [首页](/) * [深度学习数学基础-初步完结](./docs/深度学习数学基础/0-前言.md) * [1.1 标量、向量、矩阵、张量](./docs/深度学习数学基础/1.1-标量、向量、矩阵和张量.md) * [1.2 简单的线性代数](./docs/深度学习数学基础/1.2-简单的线性代数.md) * [2.1-标量：导数的概念](./docs/深度学习数学基础/2.1-标量：导数的概念.md) * [2.2-标量：链式法则](./docs/深度学习数学基础/2.2-标量：链式法则.md) * [2.3-标量：求导常用公式](./docs/深度学习数学基础/2.3-标量：求导常用公式.md) * [2.4-多个标量：多元函数求导、偏导数](./docs/深度学习数学基础/2.4-多个标量：多元函数求导、偏导数.md) * [2.5-方向导数和梯度](./docs/深度学习数学基础/2.5-方向导数和梯度.md) * [2.6-向量的梯度和Jacobian矩阵](./docs/深度学习数学基础/2.6-向量的梯度和Jacobian矩阵.md) * [2.7-矩阵和张量的梯度](./docs/深度学习数学基础/2.7-矩阵和张量的梯度.md) * [2.8-神经网络中几个实用的梯度计算](./docs/深度学习数学基础/2.8-神经网络中几个实用的梯度计算.md) * [3.1-神经网络中的反向传播](./docs/深度学习数学基础/3.1-神经网络中的反向传播.md) * [3.2-单层神经网络梯度计算例子](./docs/深度学习数学基础/3.2-单层神经网络梯度计算例子.md) * [4.1-Pytorch自动求梯度](./docs/深度学习数学基础/4.1-Pytorch自动求梯度.md) * [4.2-Tensorflow自动求梯度](./docs/深度学习数学基础/4.2-Tensorflow自动求梯度.md) * [深度学习模型基础-更新中](./docs/深度学习模型基础/transformer基本原理讲解/0-前言.md) * [1.1-图解attetion](./docs/深度学习模型基础/transformer基本原理讲解/1.1-图解attetion.md) * [1.2-图解transformer](./docs/深度学习模型基础/transformer基本原理讲解/1.2-图解transformer.md) * [1.3-图解BERT](./docs/深度学习模型基础/transformer基本原理讲解/1.3-图解BERT.md) * [1.4-图解GPT](./docs/深度学习模型基础/transformer基本原理讲解/1.4-图解GPT.md) * [深度学习应用-更新中](./docs/深度学习应用/前言.md) * [自然语言处理](./docs/深度学习应用/自然语言处理任务/前言.md) * [1-语言模型](./docs/深度学习应用/自然语言处理任务/1-language_modeling-语言模型.md) * [2-机器翻译](./docs/深度学习应用/自然语言处理任务/2-translation-机器翻译.md) * [3-机器问答](./docs/深度学习应用/自然语言处理任务/3-question_answering-机器问答.md) * [4-摘要生成](./docs/深度学习应用/自然语言处理任务/4-summarization-摘要生成.md) * [5-token 分类](./docs/深度学习应用/自然语言处理任务/5-token_classification-词_符号_token级别分类任务.md) * [计算机视觉]() * [1-Vit和自监督学习](./docs/深度学习应用/计算机视觉任务/1-Vision%20Transformer使用和facebook自监督学习DINO训练方法.md) > 我的知乎是[多多笔记](http://www.zhihu.com/people/nai-ping-46-76) > > 可以添加这个微信号联系我：bit_pku_eecs，备注：交流，可以帮拉入transformer、NLP、深度学习的交流群进行讨论。 > > 也欢迎关注公众号：