【免费】不得直视本王-解决方案1资源-CSDN文库

需积分: 0 6 浏览量 2022-08-03 21:14:57 上传评论收藏 586KB PDF 举报

资源详情

资源评论

资源推荐

微额借款用户人品预测大赛解决方案

1. 解决方案概述

微额借款用户人品预测的数据不仅有带标签数据(1.5W)，而且还有大量无标签数据(5W)

两种类型，数据存在缺失值，类别不平衡，特征高维度等特点。本次大赛主要是为了能从用

户行为数据分析‘小额微贷’申请借款用户的信用状况，来判断其是否逾期。针对需要解决

的问题和数据特征，我们主要从四个方面进行处理：数据预处理，特征工程，数据不平衡，

以及半监督模型训练。

首先，由于数据中存在大量的缺失值，因此需要对缺失值数据进行预处理。比赛中，我

们视缺失值为一种特征进行处理。统计了每个样本的缺失值个数，并进行排序，发现样本类

别和缺失值个数呈规律性阶梯状关系。通过分析发现，当训练数据中缺失值个数大于某个阈

值后，这部分样本会产生噪声数据，并产生过拟合现象，因此把这部分样本进行剔除。其次，

生成排序特征，离散特征，计数特征，并采用基于学习模型的特征排序方法做了特征选择。

在训练模型时，对模型参数加入了小范围的随机扰动，从而得到多个具有一定差异性的模型，

以便对模型进行融合。然后，针对类别不平衡问题，不仅采用了传统的代价敏感学习方法，

而且通过半监督方法利用无标签数据进行学习。最后，我们提出了一种暴力半监督模型，该

模型相当于是一个预处理过程。与传统半监督模型不同，该模型不考虑具体打标的准确性，

只考虑能否利用无标签样本的分布来改善分类器性能，其可以替换为任何分类器，更换任意

评估指标，都起到了提高相应性能的作用。

通过以上处理，我们得到了单模型，多模型融合，迭代半监督，以及暴力半监督等四个

模型，通过实验测试证明，暴力半监督模型更能有效的预测人品，并在竞赛中取得了线上得

分 0.7341 的成绩。

2. 数据预处理

主要是缺失值的处理。赛题数据中大部分样本都有缺失值，且缺失值个数较多，有的样

本甚至有上千个缺失值。常用的缺失值处理方法是缺失值填充（用同类别数据的特征均值，

中值等），但由于测试集也同样有大量的缺失值，因此没有采用该方法。既然训练集和测试

集都有这种特点，不如就把缺失值当成一种特征来处理。

我们统计了训练集中每个样本的缺失值个数，并且按照缺失值个数从小到大排序，以序

号为横坐标，缺失值个数为纵坐标，画出如下图 1：

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余8页未读，立即下载

评论0

内容反馈

WaiyuetFung

粉丝: 63
资源: 316

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip