机器学习整理(神经网络)
神经元
神经网络由多个神经元组成,其中神经元由几个部分组成:输入、输入权重、输出和激活
函数组成,类似于生物神经元的树突、轴突的组成。
神经元的输入由左边的神经元输出 \(x\) 乘以权重 \(w\) 并加和得到,输出的时候,类似
于生物神经元的轴突,将神经元的输出通过激活函数才能传送给接下来的神经元。
常用的激活函数(activation function)是 Sigmod,它的函数图像如下,在逻辑回归的时候
使用过:
其中偏置单元 \(b\) 是用于提高神经网络的灵活性而加入的,它的存在可以让激活函数更
快或者更慢达到激活状态。
神经网络
多个神经元组层一个神经网络: