Python实现的特征提取操作示例

Python实现的特征提取操作示例实现的特征提取操作示例

主要介绍了Python实现的特征提取操作,涉及Python基于sklearn库的变量特征提取相关操作技巧,需要的朋友可

以参考下

本文实例讲述了Python实现的特征提取操作。分享给大家供大家参考，具体如下：

# -*- coding: utf-8 -*-

"""

Created on Mon Aug 21 10:57:29 2017

@author: 飘的心

[100,7,8,9],

[101,11,12,13]]

selector=VarianceThreshold(1) #方差阈值值，

selector.fit(x)

selector.variances_ #展现属性的方差

selector.transform(x)#进行特征选择

selector.get_support(True) #选择结果后，特征之前的索引

selector.inverse_transform(selector.transform(x)) #将特征选择后的结果还原成原始数据

#被剔除掉的数据，显示为0

#单变量特征选择

selector=SelectKBest(score_func=f_classif,k=3)#选择3个特征，指标使用的是方差分析F值

selector.fit(x,y)

selector.scores_ #每一个特征的得分

selector.pvalues_

selector.get_support(True) #如果为true，则返回被选出的特征下标，如果选择False，则

#返回的是一个布尔值组成的数组，该数组只是那些特征被选择

selector.transform(x)

#包裹时特征选择

from sklearn.feature_selection import RFE

from sklearn.svm import LinearSVC #选择svm作为评定算法

selector.fit(x,y)

selector.n_features_ #给出被选出的特征的数量

selector.support_ #给出了被选择特征的mask

selector.ranking_ #特征排名，被选出特征的排名为1

#注意：特征提取对于预测性能的提升没有必然的联系，接下来进行比较；

from sklearn.feature_selection import RFE

from sklearn.svm import LinearSVC

from sklearn import cross_validation

from sklearn.datasets import load_iris

#加载数据

X_t=selector.fit_transform(X,y)

#切分测试集与验证集

x_train,x_test,y_train,y_test=cross_validation.train_test_split(X,y,

test_size=0.25,random_state=0,stratify=y)

x_train_t,x_test_t,y_train_t,y_test_t=cross_validation.train_test_split(X_t,y,

test_size=0.25,random_state=0,stratify=y)

clf=LinearSVC()

clf_t=LinearSVC()

clf.fit(x_train,y_train)

clf_t.fit(x_train_t,y_train_t)