没有合适的资源?快使用搜索试试~ 我知道了~
《最优化方法》复习题 含答案(附录 5 《最优化方法》复习题)
1星 需积分: 46 165 下载量 182 浏览量
2013-10-28
16:31:21
上传
评论 26
收藏 375KB PDF 举报
温馨提示
试读
12页
《最优化方法》复习题 含答案 孙文瑜 徐成贤版(附录 5 《最优化方法》复习题)
资源推荐
资源详情
资源评论
附录 5 《最优化方法》复习题
1、设
nn
AR
是对称矩阵,
,
n
b R c R
,求
1
()
2
TT
f x x Ax b x c
在任意点
x
处
的梯度和 Hesse 矩阵.
解
2
( ) , ( )f x Ax b f x A
.
2、设
( ) ( )t f x td
,其中
:
n
f R R
二阶可导,
,,
nn
x R d R t R
,试求
()t
.
解
2
( ) ( ) , ( ) ( )
TT
t f x td d t d f x td d
.
3、设方向
n
dR
是函数
()fx
在点
x
处的下降方向,令
( ) ( )
( ) ( ) ( )
TT
TT
dd f x f x
HI
d f x f x f x
,
其中
I
为单位矩阵,证明方向
()p H f x
也是函数
()fx
在点
x
处的下降方向.
证明 由于方向
d
是函数
()fx
在点
x
处的下降方向,因此
( ) 0
T
f x d
,从而
( ) ( ) ( )
TT
f x p f x H f x
( ) ( )
( ) ( ) ( )
( ) ( ) ( )
TT
T
TT
dd f x f x
f x I f x
d f x f x f x
( ) ( ) ( ) 0
TT
f x f x f x d
,
所以,方向
p
是函数
()fx
在点
x
处的下降方向.
4、
n
SR
是凸集的充分必要条件是
1 2 1 2
2, , , , , , , ,
mm
m x x x S x x x LL
的一切
凸组合都属于
S
.
证明 充分性显然.下证必要性.设
S
是凸集,对
m
用归纳法证明.当
2m
时,
由凸集的定义知结论成立,下面考虑
1mk
时的情形.令
1
1
k
ii
i
xx
,
其中
, 0, 1, 2, , 1
ii
x S i k
L
,且
1
1
1
k
i
i
.不妨设
1
1
k
(不然
1k
x x S
,
结论成立),记
1
1
1
k
i
i
i
k
yx
,有
1 1 1
(1 )
k k k
x y x
,
又
1
11
0, 1, 2, , , 1
11
k
ii
i
kk
ik
L
,
则由归纳假设知,
yS
,而
1k
xS
,且
S
是凸集,故
xS
.
5、设
n
RS
为非空开凸集,
RSf :
在
S
上可微,证明:
f
为
S
上的凸函数的
充要条件是
2 1 1 2 1 1 2
( ) ( ) ( ) ( ), ,
T
f x f x f x x x x x S
.
证明 必要性.设
f
是
S
上的凸函数,则
12
,x x S
及
(0,1)
,有
2 1 2 1
( (1 ) ) ( ) (1 ) ( )f x x f x f x
,
于是
1 2 1 1
21
( ( )) ( )
( ) ( )
f x x x f x
f x f x
,
因
S
为开集,
f
在
S
上可微,故令
0
,得
1 2 1 2 1
( ) ( ) ( ) ( )
T
f x x x f x f x
,即
2 1 1 2 1 1 2
( ) ( ) ( ) ( ), ,
T
f x f x f x x x x x S
.
充分性.若有
2 1 1 2 1 1 2
( ) ( ) ( ) ( ), ,
T
f x f x f x x x x x S
,
则
[0,1]
,取
12
(1 )x x x S
,从而
11
( ) ( ) ( ) ( )
T
f x f x f x x x
,
22
( ) ( ) ( ) ( )
T
f x f x f x x x
,
将上述两式分别乘以
和
1
后,相加得
1 2 1 2
( ) (1 ) ( ) ( ) ( ) ( (1 ) )
T
f x f x f x f x x x x
12
( ) ( (1 ) )f x f x x
,
所以
f
为凸函数.
6、证明:凸规划
min ( )
xS
fx
的任意局部最优解必是全局最优解.
证明 用反证法.设
xS
为凸规划问题
min ( )
xS
fx
的局部最优解,即存在
x
的某
个
邻域
()Nx
,使
( ) ( ), ( )f x f x x N x S
I
.若
x
不是全局最优解,则存在
xS
%
,使
( ) ( )f x f x
%
.由于
()fx
为
S
上的凸函数,因此
(0,1)
,有
( (1 ) ) ( ) (1 ) ( ) ( )f x x f x f x f x
%%
.
当
充分接近 1 时,可使
(1 ) ( )x x N x S
%
I
,于是
( ) ( (1 ) )f x f x x
%
,
矛盾.从而
x
是全局最优解.
7、设
n
RS
为非空凸集,
RSf :
是具有一阶连续偏导数的凸函数,证明:
x
是问题
min ( )
xS
fx
的最优解的充要条件是:
( ) ( ) 0,
T
f x x x x S
.
证明 必要性.若
x
为问题
min ( )
xS
fx
的最优解.反设存在
xS
%
,使得
( ) ( ) 0
T
f x x x
%
,则
d x x
%
是函数
()fx
在点
x
处的下降方向,这与
x
为问题
min ( )
xS
fx
的最优解矛盾.故
( ) ( ) 0,
T
f x x x x S
.
充分性.若
( ) ( ) 0,
T
f x x x x S
.反设存在
xS
%
,使得
( ) ( )f x f x
%
.
( ( )) ( ) ( (1 ) ) ( )f x x x f x f x x f x
%%
( ) (1 ) ( ) ( )
( ) ( ) 0 ( (0,1)
f x f x f x
f x f x
%
%
,
因
S
为凸集,
f
在
S
上可微,故令
0
,得
( ) ( ) ( ) ( ) 0
T
f x x x f x f x
%%
,这与已知条件矛盾,故
x
是问题
min ( )
xS
fx
的最优
解.
8、设函数
()fx
具有二阶连续偏导数,
k
x
是
()fx
的极小点的第
k
次近似,利用
()fx
在点
k
x
处的二阶 Taylor 展开式推导 Newton 法的迭代公式为
21
1
[ ( )] ( )
k k k k
x x f x f x
.
证明 由于
()fx
具有二阶连续偏导数,故
2
1
( ) ( ) ( ) ( ) ( ) ( ) ( )( )
2
TT
k k k k k k
f x x f x f x x x x x f x x x
.
且
2
()
k
fx
是对称矩阵,因此
()x
是二次函数.为求
()x
的极小点,可令
( ) 0x
,即
2
( ) ( )( ) 0
k k k
f x f x x x
,若
2
()
k
fx
正定,则上式解出的
()x
的平稳点就是
()x
的极小点,以它作为
()fx
的极小点的第
1k
次近似,记为
1k
x
,即
21
1
[ ( )] ( )
k k k k
x x f x f x
,这就得到了 Newton 法的迭代公式.
9、叙述常用优化算法的迭代公式.
剩余11页未读,继续阅读
资源评论
- 北冥_2020-11-15差评,只有12页还不是答案。
zwdongmitch
- 粉丝: 1
- 资源: 3
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功