机器学习采用线性回归模型对波士顿房价进行预测-numpy实现源码.zip

# 机器学习-采用线性回归模型对波士顿房价进行预测-numpy实现 #### 介绍 采用线性回归模型对波士顿房价进行预测-numpy实现 需运行BDG_4.py，代码用到了LinearRegression_1.py中的函数，须将二者放在同一文件夹下运行~ #### 代码内容说明 1. 采用梯度下降法（BGD）优化线性回归模型，对波士顿房价进行预测 （1）导入数据（从 boston.csv 文件中导入数据） （2）划分数据（分成训练集和数据集） （3）数据归一化 （4）训练模型 model(train_x,train_y) （a）初始化参数 w 可使用 np.concatenate 数组拼接函数，将截距与权重参数合并在一起。 （b）求 f(x) （c）求 J(w) （d）求梯度 （e）更新参数 w 其中，（b-e）的过程经过 epochs 次迭代。 （5）画出损失函数虽迭代次数的变化曲线（通过损失函数变化曲线来观察梯度下降执行情况） （6）测试集数据进行预测，模型评估 （7）可视化：展示数据拟合的效果 2. 小批量梯度下降算法（MBGD）的编程实现 #### 使用说明 需要在参数空间def get_arguments()中更改参数，选择不同的数据集、、训练集测试集划分比例、随机数种子、正则化方式、线性回归模型、损失函数等。  1. '--data_name',选择不同的数据集，可选择'boston', 'california'，赋给default（即 default='boston' 选择波士顿房价数据集，default= 'california' 选择加利福尼亚房价数据集） 2. '--test_size', 训练集测试集划分比例，设置default=0.33, 即训练集的比例为33%，可根据需求修改 3. '--random_state', 随机数种子，default=42, 划分数据集的随机种子数为42，可根据需求修改 4. '--normalization'，正则化方式，可选择 '0: no normalization,' '1: rescale the data to [0, 1],' '2: rescale the data to [-1, 1],' '3: z-score normalization'，即不需要正则化、最大最小标准化（将数值放缩到[0, 1]、数值放缩到[-1, 1]）、z-score 标准化，可根据需求修改 5. '--Regression'，线性回归模型，可选择''1: normal equation of LinearRegression,' '2: SGD LinearRegression,' '3: Ridge Regression,' '4: Lasso Regression,' '5: Polynomial Regression'，即LinearRegression，还有 随机梯度下降SGD、Ridge(岭回归)、 Lasso、Polynomial regression（多项式回归）等模型，可根据需求选择赋给default 6. '--loss'，损失类型，评价指标：MSE 和 $R^2$值，可根据需求修改 7. '--max_iteration'，int，最大迭代次数，默认 200，本代码用设置1000，可根据需求修改 8. '--eta0'，随机梯度下降算法(SGDRegressor)的学习率，本代码用设置0.01，可根据需求修改 6. '--alpha'，float，L2 正则化项的强度(L2 正则化项在添加到损失时除以样本大小)，本代码用设置0.5，可根据需求修改 7. '--degree',Polynomial regression（多项式回归）的阶数，只本代码用设置2，可根据需求修改 #### numpy实现线性回归模型对波士顿房价进行预测-实现结果 1. xxxx 2. xxxx 3. xxxx