基于Python实现的手写数字识别系统.zip

# 基于Python手写数字的识别 # 一、总体方案 ## 1.1 题目分析 使用 Python 实现对手写数字的识别工作，通过使用 windows 上的画图软件绘制一个大小是 28x28 像素的数字图像，图像的背景色是黑色，数字的颜色是白色，将该绘制的图像作为输入，经过训练好的模型识别所画的数字。 ## 1.2 总体方案设计 手写数字的识别可以分成两大板块：一、手写数字模型的训练；二、手写数字的识别。其中最为关键的环节是手写数字模型的训练。下图为程序设计的总体流程。  本次选取使用的模型是多元线性回归模型。手写数字有 10 中，分别是 0~9，所以可以将该问题视为一个多分类问题。 # 二、算法基本原理 一个问题含有多个变量因素是，我们把包括两个或两个以上自变量的回归称为多元线性回归。多元线性回归的基本原理和基本计算过程与一元线性回归相同，不同的地方在于进行计算的变量个数是非常多的。由于在进行手写数字识别时，存在着 10 种数字，所以在进行标记训练数据集的标签时，通过热编码的方式来进行标签标记。下图展示了热编码的效果。  多元线性回归使用的是如下的公式进行计算的；  但是经过计算后 y 的值将会不在 0~1 内，而同时我们在进行标签标记时使用的是热编码，所以进行线性运算后需要将计算的结果转换到 0~1 之间，所以通过如下的公式：  该公式被称为 sigmoid 函数，其曲线当 y 的值越大时，y1 的结果越接近 1，当 y 的值越小时，y1 的结果越接近 0。下图为其函数曲线图。  利用上述的原理，进行一次训练，之后不断的进行运行，但是训练到何种程度算是结束训练呢，这就需要使用最小均方误差函数，使预测值与真实值之间的误差达到最小。下面的公式为最小均方误差函数表达式：  在进行迭代运算时，使用梯度下降的方法不断的对线性回归公式中的自变量参数 m1...mn 和 b 进行迭代更新，使最小均方误差函数达到最小。梯度计算时可以将最小均方误差进行求导，从而得到当前关于 m1...mn 和 b 的变化率，利用此变化率，来不断的更新当前的 m1...mn 和 b。如果我们将迭代的过程中最小均方误差的变化曲线如下图所示，图像红点所对应的地方的 m1...mn 和 b 值即为我们期望的。  所以根据以上的原理，进行训练的具体流程如下图所示：  得到训练后的权重后，在进行预测时通过使用公式  来计算该带预测的手写数字是 0~9 中的那个概率大，从而概率最大的就是预测的值。 # 三、系统实现 ## 3.1 手写数字训练代码 ```python import numpy as np feature = np.loadtxt("train_image.csv", delimiter=",", max_rows=6000) / 255 featureMatrix = np.append(feature, np.ones(shape=(len(feature), 1)), axis=1) weightm = np.ones(shape=(feature.shape[1], 10)) weightb = np.ones(shape=(1, 10)) weight = np.r_[weightm, weightb] learningrate = 0.0001 label = np.loadtxt("train_label_hotencoding.csv", delimiter=",", max_rows=6000) def grandientDecent(): predict2sigmod = 1/ (1 + np.exp(-np.dot(featureMatrix, weight))) temp_slop = np.dot(featureMatrix.T, predict2sigmod - label) return temp_slop def train(): global weight for i in range(1, 50000): slopmb = grandientDecent() weight -= slopmb * learningrate return weight if __name__ == '__main__': myweight = train() np.savetxt("myweight1.csv",myweight, fmt="%f", delimiter=",") ``` 当把训练程序运行完成后会得到线性回归的权重值，并将数据保存到 myweight1.csv 文件中去。在训练程序中 train_image.csv 是训练集数据，train_label_hotencoding.csv 是对应与训练数据集的标签。 ## 3.2 预测程序 ```c++ import numpy as np from PIL import Image image = Image.open("D:/8.bmp") t = np.array(image) / 255 testfeature = t.reshape(1,784) np.set_printoptions(threshold=np.inf, suppress=True) myweight = np.loadtxt("myweight1.csv", delimiter=",") testfeatureMatrix = np.append(testfeature, np.ones(shape=(len(testfeature), 1)), axis=1) mypredict = np.dot(testfeatureMatrix, myweight) expmpre = np.exp(mypredict) expsum = np.sum(expmpre, axis=1) for i in range(len(testfeature)): expmpre[i, :] = expmpre[i, :] / expsum[i] pre = np.argmax(expmpre[i, :]) print(pre) print("-" * 20) ``` 程序首先是对我们手写的数字进行处理，将其转换成与训练集相同格式的数据，之后是加载线性回归的权重模型 myweight1.csv # 四、程序效果 画图软件画图界面里