随机森林 (Random Forests) 简单介绍与应用

1 集成方法(Ensemble methods) 1.1 什么是集成方法 简单来说，集成方法 就是组合多个模型，以获得更好效果。 1.2 两种集成方法 平均法(averaging methods)：也有人直接称之为“袋装法”，所有算法进行 相互独立 训练得到各自的模型，然后再进行投票选择最好的模型。如 随机森林(Forests of randomized trees) 与 袋装法(Bagging methods) 。 提升法(boosting methods)： 训练开始后，从第二个模型开始，每个模型是针对前一个模型进行加权叠加。如 自适应提升(Adaboost) 与 梯度树提升(Gradi