没有合适的资源?快使用搜索试试~ 我知道了~
第七章随机方法本章目录随机搜索Boltzmann学习Boltzmann网络和图模型进化方法 – 遗传算法遗传规划内容介绍对于高维和复杂的模型,由于经常出现许多局
资源详情
资源评论
资源推荐
2019/12/10
1
第七章 随机方法
Stochastic Methods
2
本章目录
随机搜索
1
Boltzmann学习
2
Boltzmann网络和图模型
3
进化方法 – 遗传算法
4
遗传规划
5
2019/12/10
2
3
7.1 内容介绍
对于高维和复杂的模型,由于经常出现许多局部极值,这时必须利用
各种处理技巧。本章将主要研究两大类通用随机搜索方法。
其一,以Boltzmann学习机作为范例,是一种来自物理学的概念和技
术;它已形成高度发展和严格的理论,并且在模式识别中取得很多成
功,因而将花主要的篇幅讲述;
其二,以遗传算法为范例,源自生物学的若干概念,特别是有关进化
的数学理论,它更具启发性和灵活性,当计算资源充足时,不失是一
个很吸引人的方法。
4
假定给定多个变量 其中每个变量的数值都取两个离
散值之一。为简单起见,记它们为±1. 优化问题是这样描述的:确定
N个s
i
的合适取值,使下述代价函数或能量函数最小:
其中的权值W
ij
是对称的,取值可正可负,可以令到自身的反馈为0。
7.2 随机搜索
, 1,...,iS i N
,1
1
2
N
ij i j
ij
E W SS
2019/12/10
3
5
想象一下该网络代表N个物理磁体,每个磁体的北极要么指上(
s
i
=
+1
),要么指向下(s
i
= -1)。W
ij
是描述磁体间的物理分离度的函数。
对每对磁体间存在一个交互作用的能量,即:
优化的任务就是在由这些磁体组成的集团的所有构型当中寻找到最稳
定的构型,也就是对应于最低能量的那个构型,即使下面的能量函数最
小:
7.2 随机搜索
,1
1
2
N
ij i j
ij
E W SS
1
2
ij ij i jE W SS
6
2019/12/10
4
7
7.2.1 模拟退火(Simulated Annealing)
模拟退火算法:基本思想是把某类优化问题的求解过程
与统计热力学中的热平衡问题进行对比,试图通过模拟
高温物体退火过程的方法,来找到优化问题的全局最优
或近似全局最优解。
8
启发:
一个物体(例如金属)的退火过程大体上是这样的:
首先对该物体加热(熔化),那么物体内的原子就可高速自由运
行,处于较高的能量状态。但是作为一个实际的物理系统,原子
的运行总是最低的能态。
一开始温度较高时,高温使系统具有较高的内能,而随着温度的
下降,原子越来越趋向于低能态,最后整个物体形成最低能量的
基态。
剩余22页未读,继续阅读
朱王勇
- 粉丝: 20
- 资源: 306
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0