numpy实现神经网络反向传播算法的步骤

numpy实现神经网络反向传播算法的步骤实现神经网络反向传播算法的步骤

主要介绍了numpy实现神经网络反向传播算法的步骤，文中通过示例代码介绍的非常详细，对大家的学习或者

工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧

一、任务一、任务

实现一个4 层的全连接网络实现二分类任务，网络输入节点数为2，隐藏层的节点数设计为：25,50,25，输出层2 个节点，分

别表示属于类别1 的概率和类别2 的概率，如图所示。我们并没有采用Softmax 函数将网络输出概率值之和进行约束，而是直

接利用均方差误差函数计算与One-hot 编码的真实标签之间的误差，所有的网络激活函数全部采用Sigmoid 函数，这些设计都

是为了能直接利用梯度推导公式。

import seaborn as sns #要注意的是一旦导入了seaborn，matplotlib的默认作图风格就会被覆盖成seaborn的格式

from sklearn.datasets import make_moons

from sklearn.model_selection import train_test_split

N_SAMPLES = 2000 # 采样点数

TEST_SIZE = 0.3 # 测试数量比率

# 利用工具函数直接生成数据集

X, y = make_moons(n_samples = N_SAMPLES, noise=0.2, random_state=100)

# 将2000 个点按着7:3 分割为训练集和测试集

X_train, X_test, y_train, y_test = train_test_split(X, y,

test_size=TEST_SIZE, random_state=42)

sns.set_style("whitegrid")

plt.figure(figsize=(16,12))

axes = plt.gca()

axes.set(xlabel="$x_1$", ylabel="$x_2$")

plt.title(plot_name, fontsize=30)

plt.subplots_adjust(left=0.20)

plt.subplots_adjust(right=0.80)

if(XX is not None and YY is not None and preds is not None):

plt.contourf(XX, YY, preds.reshape(XX.shape), 25, alpha = 1,cmap=plt.cm.Spectral)

plt.contour(XX, YY, preds.reshape(XX.shape), levels=[.5],cmap="Greys", vmin=0, vmax=.6)

plt.show()