人工智能-神经网络.pdf

⼈⼯智能 ⼈⼯智能-神经⽹络 神经⽹络 本⽂内容 本⽂内容 概述 发展 应⽤ 热点 术语 最近看《BBC：⼈体奥秘》，这让我想起了⼈⼯智能和神经⽹络。我们的⼤脑有 1000 亿个脑细胞，每个脑细胞都会与 1 万个不同的脑细胞 相互连接。记得，⼩时候，⽗母经常跟我们玩躲猫猫。那时，当⽗母从我们的眼前突然消失时，我们的⼤脑真的认为⽗母不见了。可三个⽉ 后，我们的⼤脑知道，如果⼀个⼈在眼前消失，可能并不意味着彻底消失。最不可思议的变化是在青春期，期间，⼤脑会损失之前 40% 的 连接，修剪掉那些不必要的连接。我还想起另⼀个纪录⽚《国家地理：旅⾏到宇宙边缘》。 ⽆论你，我，他，每个⼈都独⼀⽆⼆的、精彩的世界，是⼀个宇宙。 概述 概述 ⼈⼯神经⽹络（Artificial Neural Network，ANN），简称神经⽹络（NN），其构筑理念受到⽣物（⼈或其他动物）神经⽹络的运作启发， 是⼀种模仿⽣物神经⽹络的结构和功能的数学模型（计算模型）。神经⽹络由⼤量的⼈⼯神经元联结，并进⾏计算。⼤多数情况下，⼈⼯神 经⽹络能根据外界信息改变内部结构，是⼀种⾃适应系统。现代神经⽹络是⼀种⾮线性统计性数据建模⼯具，常⽤来对输⼊—输出间复杂的 关系进⾏建模，或⽤来探索数据的模式。 ⽬前，神经⽹络模型有⼗种之多，典型的包括 BP ⽹络、Hopfield ⽹络、ART ⽹络和 Kohonen ⽹络。 发展 发展 1943 年，⼼理学家 W.S.McCulloch 和数理逻辑学家 W.Pitts 建⽴了神经⽹络和数学模型的 MP 模型。他们通过 MP 模型提出了神经元 的形式化数学描述和⽹络结构⽅法，并证明了单个神经元能执⾏逻辑功能，从⽽开创了⼈⼯神经⽹络研究的时代。这是神经⽹络最早 的描述。 1949年，⼼理学家提出了突触联系强度可变的设想。 20 世纪 60 年代，神经⽹络进⼀步发展，提出了更完善的神经⽹络模型，其中，包括感知器和⾃适应线性元件等。M.Minsky 等⼈仔细 分析了以感知器为代表的神经⽹络系统的功能及局限后，于 1969 年出版了《Perceptron》，指出感知器不能解决⾼阶谓词问题。该论 点极⼤影响了神经⽹络的研究，加之当时串⾏计算机和⼈⼯智能所取得的成就，掩盖了发展新型计算机和⼈⼯智能新途径的必要性和 迫切性，使⼈⼯神经⽹络的研究处于低潮。期间，⼀些⼈⼯神经⽹络的研究者仍然致⼒于这⼀研究，提出了适应谐振理论（ART ⽹）、⾃组织映射、认知机⽹络，同时进⾏了神经⽹络数学理论的研究。以上研究为神经⽹络的研究和发展奠定了基础。 1982 年，美国加州⼯学院物理学家 J.J.Hopfield 提出了Hopfield 神经⽹格模型，引⼊了"计算能量"概念，给出了⽹络稳定性判断。 1984年，他⼜提出了连续时间 Hopfield 神经⽹络模型，为神经计算机的研究做了开拓性的⼯作，开创了神经⽹络⽤于联想记忆和优化 计算的新途径，有⼒地推动了神经⽹络的研究， 1985 年，⼜有学者提出了波⽿兹曼模型，在学习中采⽤统计热⼒学模拟退⽕技术，保证整个系统趋于全局稳定点。 1986 年进⾏认知微观结构地研究，提出了并⾏分布处理的理论。 20 世纪 90 年代初，⼜有脉冲耦合神经⽹络模型被提出。 应⽤ 应⽤ 神经⽹络在许多实际领域中取得了显著的成效，如下所⽰： ⾃动控制领域。主要有系统建模和辨识，参数整定，极点配置，内模控制，优化设计，预测控制，最优控制，滤波与预测容错控制 等。 处理组合优化问题。解决旅⾏商问题，最⼤匹配问题，装箱问题和作业调度问题。 图像处理。对图像进⾏边缘监测、图像分割、图像压缩和图像恢复。 信号处理。能分别对通讯、语⾳、⼼电和脑电信号进⾏处理分类；可⽤于海底声纳信号的检测与分类，在反潜、扫雷等⽅⾯得到应 ⽤。 模式识别。已成功应⽤于⼿写字符、汽车牌照、指纹和声⾳识别，还可⽤于⽬标的⾃动识别和定位、机器⼈传感器的图像识别以及地 震信号的鉴别等。 机器⼈控制。对机器⼈眼⼿系统位置进⾏协调控制，⽤于机械⼿的故障诊断及排除、智能⾃适应移动机器⼈的导航。 卫⽣保健、医疗。如通过训练⾃主组合的多层感知器，可以区分正常⼼跳和⾮正常⼼跳、基于 BP ⽹络的波形分类和特征提取在计算 机临床诊断中的应⽤。 焊接领域。国内外在参数选择、质量检验、质量预测和实时控制⽅⾯都有研究，部分成果已得到应⽤。 经济。能对商品价格、股票价格和企业的可信度等进⾏短期预测。 另外，在数据挖掘、电⼒系统、交通、军事、矿业、农业和⽓象等⽅⾯亦有应⽤。 热点 热点 神经⽹络与遗传算法的结合 这主要体现在以下⼏个⽅⾯：⽹络连接权重的进化训练；⽹络结构的进化计算；⽹络结构和连接权重的同时进化；训练算法的进化设计。基 于进化计算的神经⽹络设计和实现已在众多领域得到应⽤，如模式识别、机