过拟合、欠拟合及其解决方案
过拟合、欠拟合的意义
当我们训练一个模型时,一般会得到两个结果:好模型,坏模型。
坏模型的意义就是那些不能得出正确结果的模型。
而得到坏模型的原因有两:
1.欠拟合;
2.过拟合;
欠拟合
现象表现为:训练时得到的结果差,测试时,得到的结果也差。
造成这种情况的原因,在于训练的次数过少,或是训练的样本过少。
与之对应的解决方案,训练的次数更多点就是了。
过拟合
结果现象表现为:训练时得到的结果极高,测试时,得到的结果相对差得有点多。
函数现象表现为:过于贴合训练样本,以至于会让一些特殊的样本占了主流。
造成这种情况的原因,在于训练的次数过多。
解决方案:
1.权重衰