决策树分类算法优化研究

数据挖掘是指从数据库中抽取隐含的、具有潜在使用价值信息的 过程，是一种新型的数据分析技术，已被广泛应用于金融、保险、政 府、教育、运输以及国防等领域。 数据分类是数据挖掘中一个重要的内容。分类存在很多方法，其 中决策树算法是以实例为基础的归纳学习算法，以其易于提取显式规 则、计算量相对较小、可以显示重要的决策属性和较高的分类准确率 等优点而得到广泛的应用。据统计，目前决策树算法是利用最广泛的 数据挖掘算法之一。 然而在实际应用过程中，现存的决策树算法也存在着很多不足之 处，如计算效率低下、多值偏向等。因此，进一步改进决策树，提高 决策树的性能，使其更加适合数据挖掘技术的应用要求具有重要的理 论和实际意义。 本文针对上述数据库知识发现的不足，进行深入的研究，探索数 据挖掘中决策树分类的组合优化算法，以便更好地提高分类的准确 性。应用于实际工作中，主要研究工作如下: 首先，从宏观上介绍了数据挖掘和分类技术的理论基础，并重点 对决策树算法进行了分析和比较。 然后，提出了一种新的适合于高维数据库的组合优化决策树算 法。相比于传统的分类算法，该算法从降维、属性选择、可扩展性和 剪枝等方面进行了改进。其中最主要是提出基于加权属性协调度并结 合简化预剪枝策略的决策树算法一DTBAC算法，以及加强算法可扩 展性的FAVC集。 最后，着重介绍了所研发的组合优化决策树分类器系统。它以 DTBAC算法为核心算法生成分类器，并应用到医学领域对病人进行 分类。通过对比分析发现，DTBAC算法在总体性能上要优于目前被 广泛采用的ID3算法。