第
44
卷第
1
期
2014
年
1
月
吉林大学学报(工学版)
Journal
of
Jilin University CEngineering and Technology Edition)
基于随机森林的特征选择算法
姚登举
1
，
2
杨静詹晓娟
3
Vo
l.
44
NO.1
Jan.
2014
(1.哈尔滨工程大学计算机科学与技术学院，哈尔滨
150001;
2.
哈尔滨理工大学软件学院，哈尔滨
150040;
3.
黑龙江工程学院计算机科学与技术学院，哈尔滨
150050)
摘
要:提出了一种基于随机森林的封装式特征选择算法
RFFS
，以随机森林算法为基本工
具，以分类精度作为准则函数，采用序列后向选择和广义序列后向选择方法进行特征选择。在
UCI
数据集上的对比实验结果表明，
RFFS
算法在分类性能和特征子集选择两方面具有较好
的性能。
关键词:人工智能;随机森林;特征选择;封装式
中图分类号
:TP18
文献标志码
:A
文章编号
:1671-5497(2014)01-0137-05
DOI:
10.
13229/j.
cnki.
jdxbgxb201401024
Feature
selection
algorithm
based on
random
forest
YAO
Deng-ju
l
• 2 ,
YANG
Jing
l
,
ZHAN
Xiao-juan
3
(1.
College
of
Com
ρ
uter
Science
and
Technology
,
Harbin
Engineering
University
,
Harbin
150001 ,
China;
2.
School
of
Software
,
Harbin
University
of
Science
and
Technology
,
Hα
rbin
150040 ,
China;3.
College
of
Com
ρ
uter
Science
and
Technology
,
Heilongji
α
ng
Institute
of
Technology
,
Harbin
150050 ,
China)
Abstract:
A
feature
selection
algorithm
based
on
random
forest
(RFFS)
is
proposed.
This
algorithm
adopts
random
forest
algorithm
as
the
basic
tool
,
the
classification
accuracy
as
the
criterion
function.
The
sequential
backward
selection
and
generalized
sequ
巳 ntial
backward
selection
methods
are
employed
for
feature
selection.
The
experimental
results
on
UCI
datasets
show
that
the
RFFS
algorithm
has
better
performance
in
classification
accuracy
and
feature
selection
subset
than
the
other
methods
in
literatures.
Key
words:
artificial
inte
l1
igence;
random
forest;
feature
selection;
wrapper
O
引
图像处理、信息检索以及生物信息学等技术
的发展，产生了以超大规模特征为特点的高维数
据集。如何有效地从高维数据中提取或选择出有
用的特征信息或规律，并将其分类识别已成为当
今信息科学与技术所面临的基本问题
[1]
。特征选
择是指从原始特征集中选择使某种评估标准最优
的特征子集，以使在该最优特征子集上所构建的
分类或回归模型达到与特征选择前近似甚至更好
收稿日期:
2012-08-2
1.
基金项目:国家自然科学基金项目
(61073043
，
61073041);
黑龙江省自然科学基金项目
(F200901
，
F201313);
哈尔滨
市科技创新人才研究专项项目
(2011RFXXG015
，
2010RFXXG002 , 2013RFQX
]l
14)
;高等学校博士学科
点专项科研基金项目
(20112304110011).
作者简介:姚登举
0980-)
，男，博士研究生，讲师.研究方向
z
人工智能，数据挖掘，模式识别.
E-mail: ydkvictory@163.com
评论0