【免费】逐步代入法与结果对比1_随机森林每次运行结果不同资源-CSDN文库

支持向量机

需积分: 0 194 浏览量 2022-08-08 22:07:00 上传评论收藏 22KB DOCX 举报

资源详情

资源评论

资源推荐

逐步代入降维

作为随机森林封装法的对照实验，之前的过滤法得到了 28 个变量，按照其

重要性依次代入神经网络、逻辑回归与支持向量机模型中，经过十折交叉验证查

看其 AUROC 值的变化，如下图所示，28 个变量全部使用准确率最高。与之前使

用随机森林函数封装法对比，封装法当选择 20 个变量时（随机森林封装法每次

运行结果略有差别，在进行与其他方法对比时我选用最少的特征变量即 20 个），

精确度就接近 54 个变量全部使用的水平了，对于神经网络算法甚至有所提高，

而依次带入模型中计算时，对于逻辑回归使用变量 25 个准确度才能超过 81.99%

（随机森林封装法的 20 个变量），而支持向量机需使用 27 个变量才能超过 81.89%

（随机森林封装法的 20 个变量），而且该方法耗时较长。故考虑快速的得到较少

的变量而精确度较高的情况，可以使用随机森林函数过滤并封装来降维。

下表 MLP 是使用 54 个变量的神经网络十折交叉验证结果，RF 过滤封装降维

法是过滤与封装均使用随机森林来降维（使用 20 个特征值），RF+MLP 降维法是

过滤过程使用随机森林，之后使用神经网络算法查看准确率来选择特征个数（如

上图所示，使用 28 个特征值准确率最高）。其他同上，LR 代表逻辑回归，SVM 代

表支持向量机。

0 5 10 15 20 25 30

0.3

0.4

0.5

0.6

0.7

0.8

0.9

MLP

LR

SVM

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余1页未读，立即下载

评论0

内容反馈

张盛锋

粉丝: 25
资源: 297

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip