深度学习基础：神经网络+激活函数+反向传播+优化算法 理解网络结构，运用激活增强非线性，掌握反向调整参数，优化算法提升性能，赋能
181 浏览量
2024-03-20
19:54:19
上传
评论
收藏 14.15MB PDF 举报
第三章 深度学习基础
3.1 基本概念
3.1.1 神经网络组成？
3.1.2 神经网络有哪些常用模型结构？
3.1.3 如何选择深度学习开发平台？
3.1.4 为什么使用深层表示?
3.1.5 为什么深层神经网络难以训练？
3.1.6 深度学习和机器学习有什么不同？
3.2 网络操作与计算
3.2.1 前向传播与反向传播？
3.2.2 如何计算神经网络的输出？
3.2.3 如何计算卷积神经网络输出值？
3.2.4 如何计算 Pooling 层输出值输出值？
3.2.5 实例理解反向传播
3.2.6 神经网络更“深”有什么意义？
3.3 超参数
3.3.1 什么是超参数？
3.3.2 如何寻找超参数的最优值？
3.3.3 超参数搜索一般过程？
3.4 激活函数
3.4.1 为什么需要非线性激活函数？
3.4.2 常见的激活函数及图像
3.4.3 常见激活函数的导数计算？
3.4.4 激活函数有哪些性质？
3.4.5 如何选择激活函数？
3.4.6 使用 ReLu 激活函数的优点？
3.4.7 什么时候可以用线性激活函数？
3.4.8 怎样理解 Relu（< 0 时）是非线性激活函数？
3.4.9 Softmax 定义及作用
3.4.10 Softmax 函数如何应用于多分类？
3.4.11 交叉熵代价函数定义及其求导推导
3.4.12 为什么Tanh收敛速度比Sigmoid快？
3.5 Batch_Size
3.5.1 为什么需要 Batch_Size？
3.5.2 Batch_Size 值的选择
3.5.3 在合理范围内，增大Batch_Size有何好处？
3.5.4 盲目增大 Batch_Size 有何坏处？
3.5.5 调节 Batch_Size 对训练效果影响到底如何？
3.6 归一化
3.6.1 归一化含义？
3.6.2 为什么要归一化？
3.6.3 为什么归一化能提高求解最优解速度？
3.6.4 3D 图解未归一化
3.6.5 归一化有哪些类型？
3.6.6 局部响应归一化作用
3.6.7 理解局部响应归一化
3.6.8 什么是批归一化（Batch Normalization）
3.6.9 批归一化（BN）算法的优点
3.6.10 批归一化（BN）算法流程
3.6.11 批归一化和群组归一化比较
3.6.12 Weight Normalization和Batch Normalization比较
3.6.13 Batch Normalization在什么时候用比较合适？
3.7 预训练与微调(fine tuning)
3.7.1 为什么无监督预训练可以帮助深度学习？
3.7.2 什么是模型微调fine tuning
剩余47页未读，继续阅读
资源评论
