利用利用Python计算计算KS的实例详解的实例详解
在金融领域中，我们的y值和预测得到的违约概率刚好是两个分布未知的两个分布。好的信用风控模型一般从准确性、稳定性
和可解释性来评估模型。
一般来说。好人样本的分布同坏人样本的分布应该是有很大不同的，KS正好是有效性指标中的区分能力指标：KS用于模型风用于模型风
险区分能力进行评估，险区分能力进行评估，KS指标衡量的是好坏样本累计分布之间的差值。指标衡量的是好坏样本累计分布之间的差值。
好坏样本累计差异越大，KS指标越大，那么模型的风险区分能力越强。
1、crosstab实现，计算ks的核心就是好坏人的累积概率分布，我们采用pandas.crosstab函数来计算累积概率分布。
2、roc_curve实现，sklearn库中的roc_curve函数计算roc和auc时，计算过程中已经得到好坏人的累积概率分布，同时我们利
用sklearn.metrics.roc_curve来计算ks值
3、ks_2samp实现，调用stats.ks_2samp()函数来计算。链接scipy.stats.ks_2samp¶为ks_2samp()实现源码，这里实现了详
细过程
4、直接调用stats.ks_2samp()计算ks
import pandas as pd
import numpy as np
from sklearn.metrics import roc_curve
from scipy.stats import ks_2samp
def ks_calc_cross(data,pred,y_label):
'''
功能: 计算KS值，输出对应分割点和累计分布函数曲线图
输入值:
data: 二维数组或dataframe，包括模型得分和真实的标签
pred: 一维数组或series，代表模型得分（一般为预测正类的概率）
y_label: 一维数组或series，代表真实的标签（{0,1}或{-1,1}）
输出值:
'ks': KS值，'crossdens': 好坏客户累积概率分布以及其差值gap
'''
crossfreq = pd.crosstab(data[pred[0]],data[y_label[0]])
crossdens = crossfreq.cumsum(axis=0) / crossfreq.sum()
crossdens['gap'] = abs(crossdens[0] - crossdens[1])
ks = crossdens[crossdens['gap'] == crossdens['gap'].max()] return ks,crossdens
def ks_calc_auc(data,pred,y_label):
'''
功能: 计算KS值，输出对应分割点和累计分布函数曲线图
输入值:
data: 二维数组或dataframe，包括模型得分和真实的标签
pred: 一维数组或series，代表模型得分（一般为预测正类的概率）
y_label: 一维数组或series，代表真实的标签（{0,1}或{-1,1}）
输出值:
'ks': KS值
'''
fpr,tpr,thresholds= roc_curve(data[y_label[0]],data[pred[0]])
ks = max(tpr-fpr)
return ks
def ks_calc_2samp(data,pred,y_label):
'''
功能: 计算KS值，输出对应分割点和累计分布函数曲线图
输入值:
data: 二维数组或dataframe，包括模型得分和真实的标签
pred: 一维数组或series，代表模型得分（一般为预测正类的概率）
y_label: 一维数组或series，代表真实的标签（{0,1}或{-1,1}）
输出值:
'ks': KS值，'cdf_df': 好坏客户累积概率分布以及其差值gap
'''
Bad = data.loc[data[y_label[0]]==1,pred[0]] Good = data.loc[data[y_label[0]]==0, pred[0]] data1 = Bad.values
data2 = Good.values
n1 = data1.shape[0] n2 = data2.shape[0] data1 = np.sort(data1)
data2 = np.sort(data2)
data_all = np.concatenate([data1,data2])
评论0