KNN（K-Nearest Neighbors，K最近邻）算法是一种基本且易于理解的分类与回归方法。它的工作原理非常简单：通过测量不同特征值之间的距离来进行预测。
### 工作原理：
1. **测量距离**：KNN算法首先计算待分类项与数据集中每个项之间的距离。通常使用欧氏距离（Euclidean distance），但也可以使用曼哈顿距离（Manhattan distance）或其他距离测量方法。
2. **找到最近的K个邻居**：确定待分类项的K个最近邻居。K是一个正整数，是模型的超参数，需要在训练过程中确定。
3. **进行决策**：
- **分类任务**：在分类问题中，KNN算法会根据K个最近邻居的类别来决定待分类项的类别。最常见的决策规则是多数投票，即K个最近邻居中出现次数最多的类别将被赋予待分类项。
- **回归任务**：在回归问题中，KNN算法会计算K个最近邻居的值的平均值，并将其作为待分类项的预测值。
### 特点：
- **非参数化**：KNN算法不需要假设数据的分布，因此它是一种非参数化方法。
- **懒惰学习**：KNN算法通常被认为是一种
