PyTorch 激活函数、损失函数、优化器-谢TS的博客.pdf

激活函数的出现就是要让神经网络模型可以拟合复杂的非线性函数。激活函数是一个 非常简单的非线性函数，只要把多个神经网络层的输出应用激活函数，神经网络就具有拟合复杂非线性函数的强大能力。