机器学习的部分学习笔记

机器学习笔记 机器学习是一种人工智能技术，通过学习算法和数据来提高预测和决策能力。机器学习包含监督学习、无监督学习和半监督学习三种基本类型。监督学习是指学习算法通过训练数据来学习一个函数，以便在新的输入数据上进行预测。无监督学习是指学习算法通过训练数据来发现数据中的隐藏模式或结构。半监督学习是指学习算法通过训练数据和少量的标记数据来学习一个函数。 支持向量机（SVM）是一种常用的监督学习算法，主要用于分类和回归问题。SVM 的主要思想是寻找一个超平面，使得数据点尽可能地远离超平面，从而达到分类或回归的目的。SVM 的优点是可以处理高维数据和非线性数据，且具有很好的泛化能力。 决策树是一种基本的分类和回归算法，呈树形结构，通过特征选择和分类来进行预测。决策树的优点是模型具有可读性，分类速度快，且可以处理非线性数据。 K 近邻算法（KNN）是一种基本的分类和回归算法，通过寻找邻近的样本来进行预测。KNN 的优点是简单易行，且可以处理非线性数据。 回归问题是机器学习中的一个基本问题，目标是通过学习算法来预测一个连续的值。回归问题的关键是定义一个损失函数，使得预测值尽可能地接近真实值。常用的损失函数有均方误差（MSE）和平均绝对误差（MAE）。 在机器学习中，特征工程是一个非常重要的步骤，目标是将原始数据转换为模型可以理解的格式。特征工程的目的是提高模型的泛化能力和预测准确性。 机器学习模型的评估是通过损失函数和评估指标来进行的。常用的评估指标有准确率、召回率、F1 值、均方误差（MSE）和平均绝对误差（MAE）。 机器学习是一种强大的工具，可以帮助我们解决许多复杂的问题。但是，机器学习也需要严格的数学基础和算法设计，否则将无法取得良好的效果。 本文涵盖了机器学习的基本概念和算法，包括支持向量机、决策树、K 近邻算法、回归问题、特征工程和模型评估等。这些知识点是机器学习领域的基础，掌握这些知识点可以帮助读者更好地理解和应用机器学习算法。