没有合适的资源?快使用搜索试试~ 我知道了~
神经网络.doc
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
0 下载量 61 浏览量
2024-04-19
22:31:54
上传
评论
收藏 219KB DOC 举报
温馨提示
试读
13页
神经网络.doc
资源推荐
资源详情
资源评论
1.现代优化算法简介
现代优化算法是 80 年代初兴起的启发式算法。这些算法包括禁忌搜索(tabu search),
模拟退火(simulated annealing),遗传算法(genetic algorithms),人工神经网络(neural
networks)。它们主要用于解决大量的实际应用问题。目前,这些算法在理论和实际应用方面
得到了较大的发展。无论这些算法是怎样产生的,它们有一个共同的目标-求组合优化问题
的全局最优解。
本文主要介绍神经网络的发展和应用。
2.人工神经网络
人工神经网络(Artificial Neural Network,简称 ANN)是由大量简单的神经元按一定方
式连接形成的智能仿生动态网络。人工神经网络的研究始于 20 世纪 40 年代初。今天,神经
网络和神经计算机已经发展成为一门多学科领域的边缘交叉学科。
2.1 人工神经网络的发展
1943 年,心理学家 Mcculloch 和数理逻辑学家 Pitts 提出了 M~P 模型,这是第一个用数
理语言描述脑的信息处理过程的模型,虽然神经元的功能比较弱,但它为以后的研究工作提
供了依据。
1949 年,心理学家 D.O.Hebb 根据心理学条件反射机理,提出了学习规律即著名的 Hebb
学习法则,即:如果两个神经元都处于兴奋激活状态,那么彼此的突肋连结权就会得到增强。
Hebb 规则对以后学习计算模型的研究产生了深远的影响
1958 年,汁算机科学家 Rosenblatt 提出了具有学习能力的“感知机”模型,完成了从单
个神经元到三层神经网络的过渡,是第一个完整的人工神经网络。
1960 年,B.Windrow 和 E.Hoff 提出了自适应线性单元,这是在当时研究大脑自适应学
习系统的基础上提出的单层前馈感知机模型。它可用于自适应滤波、预测和模式识别,至此,
人工神经网络的研究工作进入了第一个高潮。
之后的二十年,人工神经网络进入缓慢发展期,期间,芬兰学者 Kohonen 提出了自组织
映射理论(SoM),美国学者 Grossberg 提出了自适应谐振理论,这些研究成果对神经网络以后
的发展产生了重要影响。
1982 年,美国生物物理学家 HopfNd 提出了一个新的神经网络模型——HopfNd 网络模型,
首次引入了网络能量函数的概念,给出了网络稳定性的判定依据,并成功解决了计算机不善
于解决的经典人工智能难题——旅行商最优路径(TSP)问题,这是 ANN 研究史上一次重大突
破.引起了全世界的极大关注,各国学者纷纷跟随其后介入神经网络领域。两年后,他又提
出了 HopfNd 网络模型实现的电子电路(即模拟 Hopfzeld 网络),他的研究成果开拓了神经网
络用于联想记忆的优化计算的新途径.并为神经计算机研究奠定了基础。
1984 年,Hinton 等人将模拟退火算法引入到神经网络中,提出了 B01tzmann 网络模型(BM
网络)。
1986 年,Rumelhart 和 Mcclelland 提出了误差反向传播算法,即 BP 算法,该算法否定
了 1969 年 Minsky 对多层网络的错误结论。
1992 年,Holland 用模拟生物进化的方式提出了遗传算法,用来求解复杂的优化问题。
1994 年 Angeline 等在前人进化策略理论的基础上,提出一种进化算法建立反馈神经网络,
成功地应用到模式识别、自动控制等方面。之后又把人工神经网络与模糊逻辑理论相结合提
出了模糊神经网络,使得神经网络的研究取得了突破性进展。
随着理论工作的发展,神经网络的应用研究也取得了突破性进展,在计算机视觉、自然
语言理解、优化计算、智能控制、模式识别、神经计算机、知识推理专家系统与人工智能等
领域得到了应用。涉及的学科众多,与之相伴的是出现了大量的边缘交叉学科。
2.2 神经网络模型
神经网络是由大量的处理单元(神经元)互相连接而成的网络。为了模拟大脑的基本特
性,在神经科学研究的基础上,提出了神经网络的模型。但是,实际上神经网络并没有完全
反映大脑的功能,只是对生物神经网络进行了某种抽象、简化和模拟。神经网络的信息处理
通过神经元的相互作用来实现,知识与信息的存储表现为网络元件互联分布式的物理联系。
神经网络的学习和识别取决于各神经元连接权系数的动态演化过程。
大脑神经系统的功能:大脑的神经元通过突触互相连接,形成了复杂的神经网络系统,
实现人类的各种智能行为。作为一个智能的信息处理系统,人脑具有以下几方面的固有特征:
(1)并行分布处理的工作模式。(2)神经系统的可塑性和自组织性。(3)神经系统的系统性。
(4)信息分布式记忆。
人工神经网络以脑神经系统的组成原理为构造基础,模拟了神经信息处理系统的上述四
个基本特征,具有广泛的应用价值。
人工神经元模型:
每一个神经元(如神经元 i)接受其他神经元(如神经元 j)的信息传递,总输人为
1
n
i ij j i
j
I w x
�
�
� �
�
(2-1)
式中:wij 表示神经元 i 和神经元 j 的结合强度,称为连接权(权值);xj 为神经元 j 的
输出;
i
�
表示神经元 i 的阈值。
神经元 i 的输出为
Oi = f ( Ii )
(2-2)
式中,f()为激发函数,根据 f()的不同,将神经元模型分为不同的类型,如离散型、
连续型、微分/差分型和概率型。
在离散输出模型中,激发函数选用阶跃函数,如
1 0
0 0
i
i
i
I
O
I
�
�
�
�
�
�
(2-3)
应用最为广泛的是连续型,在连续输出模型中采用的激发函数为连续函数,如多项式函
数、三角函数、样条函数等。目前广为采用的是 Sigmoid 函数,简称 S 型函数,即取神经元
的输出为
1
1
i
i
I
O
e
�
�
�
(2-4)
为了进一步提高神经网络的实用性,近年也有将 S 型函数改进为如下形式
1
i
i
cI
O
a be
�
�
�
(2-5)
式中:a、b 和 c 为可调参数。通过改变系数 a、b 和 c 的值,来改变 S 型函数图像的几何
形状,也就是改变了相应神经元的输入输出特性。
2.3 人工神经网络的应用现状
神经网络以其独特的结构和处理信息的方法,在许多实际
应用领域中取得了显著的成效,主要应用如下:
(1)自动控制领域。神经网络方法已经覆盖了控制理论中的绝大多数问题,主要有系统
建模与辨识、PID 参数整定、极点配置、内模控制、优化设计、预测控制、最优控制、自适
应控制、滤波与预测容错控制、模糊控制和学习控制等。典型的例子是 20 世纪 60 年代初,
美国“阿波罗”登月计划中,Kilmer 和 Mc-Clloch 等人根据脊椎动物神经系统中网状结构的
工作原理,提出了一个 KMB 模型,以使登月车在远距离复杂环境下具有一定的自制能力。
(2)处理组合优化问题。最典型的例子是成功地解决了 TSP(Travelling Salesman
Problem)问题,另外还有最大匹配问题、装箱问题和作业调度等。
(3)模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别,还可用于目标的
自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别等。
(4)图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。
(5)传感器信号处理。传感器输出非线性特性的矫正、传感器故障检测、滤波与除噪、
环境影响因素的补偿、多传感器信息融合。
(6)机器人控制。对机器人眼手系统位置进行协调控制,用于机械手的故障诊断及排除、
智能自适应移动机器人的导航。
(7)信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类;可用于海底声纳
信号的检测与分类,在反潜、扫雷等方面得到应用。
(8)卫生保健、医疗。比如通过训练自主组合的多层感知器可以区分正常心跳和非正常
心跳、基于 BP 网络的波形分类和特征提取在计算机临床诊断中的应用。
(9)经济。能对商品价格、股票价格和企业的可信度等进行短期预测。
(10)化工领域。能对制药、生物化学和化学工程等进行分析。如:进行蛋白质结构分
析、谱分析和化学反应分析等。
(11)焊接领域。国内外在参数选择、质量检验、质量预测和实时控制方面都有研究,
部分成果已得到应用。
(12)地理领域。在遥感图像分类中有广泛的应用,在 GIS 方面应用人工神经网络理论,
提高系统对数据进行复杂的综合分析的功能。
(13)另外,在数据挖掘、电力系统、交通、军事、矿业、农业和气象等方面亦有应用。
2.4 人工神经网络的发展趋势思考
人工神经网络是一门高度综合的学科,它的研究涉及到神经科学、计算机科学、控制学、
信息论、大规模集成电路技术、物理学、心理学、生物学、哲学、生物进化论等诸多领域。
从哲学的角度分析人工神经网络的发展,有助于把握科学发展的大趋势,有助于更进一步了
解新技术的发展动因。
剩余12页未读,继续阅读
资源评论
ohmygodvv
- 粉丝: 506
- 资源: 2320
下载权益
C知道特权
VIP文章
课程特权
开通VIP
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功