实验报告的主题围绕着“机器学习与数据挖掘”，具体实验内容是利用线性回归模型预测加州房屋价格。这个实验旨在让学生熟悉机器学习的基本概念、模型、算法以及数据预处理方法，并通过实际操作加深对线性回归的理解。实验要求使用Python编程语言，但不允许直接使用scikit-learn库的高层API。
一、实验目标
1. 理解并掌握机器学习中的关键概念，包括模型、算法和相关术语。
2. 学习并实践机器学习模型的训练、验证和测试流程。
3. 熟悉数据预处理技术，如特征编码和数据划分。
4. 掌握线性回归模型的理论基础，包括参数表示、求解方法（闭式解和梯度下降法）以及评估指标。
二、实验步骤
1. 数据准备：从Kaggle网站下载California Housing Prices数据集，了解数据集的结构和特征含义。
2. 数据探索与预处理：分析数据的数值分布，对类别特征如`ocean_proximity`进行one-hot编码。将数据集划分为70%的训练集和30%的测试集。
3. 模型参数求解：实现线性回归的闭式解（即正规方程）和梯度下降法来优化模型参数。
4. 模型评估：在测试集上计算R²评分，评估模型的预测能力。
三、线性回归模型
1. 闭式解：多元线性回归可以表示为一个线性方程组的矩阵形式，通过求解这个方程组可以得到最优参数。
2. 梯度下降：当函数F(x)在某点a处可微时，沿着梯度的反方向更新参数能最快地降低误差。通过迭代更新参数，直到梯度接近零，达到局部最优或全局最优。
四、Python实现
实验代码示例展示了如何使用numpy和pandas库处理数据，包括数据读取、one-hot编码、数据划分以及模型参数求解。注意，实验要求自实现线性回归算法，而不是直接调用现有的库函数。
五、实验总结与反思
在完成实验后，学生应总结实验过程，分析模型性能，探讨可能的改进策略，如特征选择、正则化等。此外，还需讨论实验中遇到的问题和解决方案，以提升对机器学习模型的理解和应用能力。
通过这个实验，学生不仅能掌握线性回归模型，还能锻炼数据预处理和模型评估的技能，为后续更复杂的学习任务打下坚实的基础。同时，实验报告的撰写也能提高学生的书面表达和逻辑思维能力。
