《机器学习》第一次大作业实验报告.docx

从分类任务和回归任务两个方面，使用逻辑回归、决策树、神经网络、支持向量机四个模型，对每个模型尝试不同参数。对于分类任务运用尝试得到的最优参数计算Accuracy, Precision, Recall, F1四个指标，对四个模型进行横向对比；对于回归任务，计算MSE,RMSE,MAE三个指标，对四个模型进行横向对比。 《机器学习》第一次大作业实验报告详尽地探讨了机器学习中的分类和回归任务，涉及了四个关键模型：逻辑回归、决策树、神经网络和支持向量机。实验旨在通过对比不同模型在不同参数下的性能，来理解这些模型在解决实际问题时的优劣。 在分类任务中，实验选择了乳腺癌患者和健康人的分类问题。逻辑回归模型在尝试不同参数后，发现默认参数已经能够提供良好的性能。接下来，决策树通过改变最大深度，基于Gini系数和信息熵的分析显示，最大深度为6时，模型的Accuracy、Precision、Recall和F1值均达到最优。神经网络通过调整学习率和迭代次数，得出学习率为1，迭代500次时的参数设置为最优。支持向量机通过尝试不同的核函数和C值，以FFMC特征为例，找到了最优参数组合。 回归任务则选取了森林火灾数据集，目的是预测火灾区域。逻辑回归、决策树、神经网络和支持向量机同样被应用于此任务，通过计算MSE（均方误差）、RMSE（均方根误差）和MAE（平均绝对误差）来评估模型性能。实验结果显示，神经网络在回归任务中可能表现出了最佳的适应性。 实验环境为Windows 10系统，使用Python 3.6.8版本，实验数据集分别来自UCI Machine Learning Repository，包括早期糖尿病风险预测数据集和森林火灾数据集，这两个数据集都是结构化的，包含了定量特征和相应的二元或连续型目标变量。 实验过程详细记录了每个模型的构建、参数调整以及性能评估。通过这样的对比实验，我们可以得出结论：对于特定的任务，不同的机器学习模型有不同的优势。例如，决策树在分类任务中可能在特定条件下表现出色，而神经网络可能在回归任务中更占优势。支持向量机和逻辑回归也是在特定参数设置下提供了良好的性能。 这份实验报告深入探讨了机器学习模型的选择和参数优化，对于理解不同模型的特性及其在实际问题中的应用具有重要的参考价值。实验不仅验证了理论知识，也锻炼了实践能力，为今后更复杂的数据分析和机器学习项目打下了坚实的基础。