BP 神经网络原理（单隐藏层）：
X
1
，X
2
……X
n
为输入变量；Y 为输出变量；圆圈里面为神经元（这里是单隐藏层
的神经元）；u 为激活函数。
1、常见的激活函数：
①Sigmod 函数：
f(x)
=
1
1
+
e
−x
f(x)
=
f(x)(1−f(x))
②tanh 函数：
f
（
x
）
=
e
x
−
e
−x
e
x
+
e
−x
f(x)
=
1−
f(x)
2
③ReLU 函数：
f
(x)
=
x
0
if x
>
0
if x
<
0
④purelin 函数：
f(x)
=
x
𝑓(𝑥)
=
1
