SDAE程序 matlab版本

SDAE程序 Matlab 版本 SDAE（Stacked Denoising Autoencoder）是一种深度学习算法，用于学习高级特征表示。该程序使用 Matlab 实现，通过组合多个自适应编码器来学习高级特征。 uniform_sampling.m uniform_sampling.m 是一个数据预处理函数，用于生成训练样本。该函数将输入图像 im1 和 im2 的每个像素位置取邻域后共 9 个元素，设为每一个像素位置对应的向量。例如，im1 和 im2 分别是 301*301 的，patches1 和 patches_2 分别是 9*90601。 multi_layers_extract_features.m multi_layers_extract_features.m 是 SDAE 提取特征的主程序。该函数使用 uniform_sampling.m 生成的patches作为输入，通过多层自适应编码器来学习高级特征。 saesetup.m saesetup.m 是生成两个前馈 BP 网络的函数。该函数生成了两个前馈 BP 网络，用于学习高级特征。 seatrain.m seatrain.m 是 SAE 网络参数的训练函数。该函数使用生成的两个前馈 BP 网络来训练网络参数。 nnff.m nnff.m 是神经网络中的前馈函数。该函数将 x 加入噪声，y 不加噪声，训练的结果希望原始数据 y 和经过网络得到的结果尽可能小。 nnbp.m nnbp.m 是反向传播算法的函数。该函数知道了结果输出偏差 L 再求权值。 nnapplygrads.m nnapplygrads.m 是根据计算的梯度更新权值和偏差的函数。该函数使用随机梯度下降算法来更新权值和偏差。 nneval.m nneval.m 是评估设计的神经网络性能的函数。该函数用于评估神经网络的整体误差。 Main.m Main.m 是程序的主函数。该函数调用了上述所有函数来实现 SDAE 程序。 SDAE 程序的关键步骤： 1. 数据预处理：uniform_sampling.m 生成训练样本。 2. 特征提取：multi_layers_extract_features.m 使用多层自适应编码器来学习高级特征。 3. 网络设置：saesetup.m 生成两个前馈 BP 网络。 4. 网络训练：seatrain.m 训练网络参数。 5. 神经网络前馈：nnff.m 将 x 加入噪声，y 不加噪声，训练的结果希望原始数据 y 和经过网络得到的结果尽可能小。 6. 反向传播算法：nnbp.m 知道了结果输出偏差 L 再求权值。 7. 权值更新：nnapplygrads.m 根据计算的梯度更新权值和偏差。 8. 评估网络性能：nneval.m 评估神经网络的整体误差。 SDAE 程序的优点： * 可以学习高级特征表示 * 能够处理高维数据 * 可以用于图像识别、自然语言处理等领域 SDAE 程序的缺点： * 计算复杂度高 * 需要大量的训练数据 * 可能出现过拟合现象