深度学习研究综述.pdf

深度学习的概念源于人工神经网络的研究，含多隐层的多 层感知器（ＭＬＰ）就是一种深度学习结构。深度学习通过组合 低层特征形成更加抽象的高层表示（属性类别或特征），以发 现数据的分布式特征表示［１］。ＢＰ算法作为传统训练多层网络 的典型算法，实际上对于仅含几层网络，该训练方法就已很不 理想［２］。深度结构（涉及多个非线性处理单元层）非凸目标代 价函数中普遍存在的局部最小是训练困难的主要来源。