没有合适的资源?快使用搜索试试~ 我知道了~
资源推荐
资源详情
资源评论
清华大学学报〈自然科学版〉
1996
年第
36
卷
Journal
of
Tsinghua University (Sci
&.
Tech)
第
3
期第
106~112
页
正交最小二乘算法及其应用
顾启桑
'
清华大学精密仪器与机械学系,北京
100084
文
摘
介绍了正交最小二乘法的算法原理,同经典的最小二乘法相比,其数值稳定性好、计算
量小,能节省大量存贮空间。应用了
Householder
变换、
Givens
变换和它的逆变换
3
种算法。根
据残差矢量最小准则,将该法用于
ARMA
模型结构辨识和时变
AR
模型参数估计,取得了满意
的仿真结果.
关键词最小二乘法;正交变换
s
辨识和参数估计
分类号
0212.1
,
024
1.
2
设线性方程组
Ax=B
式中
:A
ε
R
mX
•
,
m>n
为列满秩阵
,
BERm
,
xER.
。
由上述方程的法方程
(1)
ATAx - ATB = 0
(2)
求解最小二乘解
x
。当
A
的条件数不很大,计算机有足够的精度时,直接解方程
(2)
即可得到
x
。但是从数值计算的观点来看这并不是一个好的算法,因为法方程的系数短阵为
ATA
,
当
A
的维数较高时,会引入较大的舍入误差。更主要的是
ATA
的条件数为
A
的条件数的平方,当
A
的条件数较大,而计算机的精度又有限时,由解法方程的方法来求最小二乘解缺乏足够的数值
稳定性,因此有必要探讨具有更好数值稳定性的算法。
1
正交最小二乘算法
令互
=[AI-BJ
,
王
=[Xl
l]
T
,对互左乘
HjtH2'
…
,
H.+I
Householder
变换阵[口,将互约化
为上三角阵
叫
ijjjj
(3)
式中
H=H
肿
1
…
H2HI'
每个
Hi
是使互的第
t
列对角线以下元素化为零。用非正式语言描述上
述算法如下:
算法
1
For
k=1
,
2
,
…
,
n
十
1
收稿日期:
1995-04-11
顾启泰
2
正交最小二乘算法及其应用
end
ν=max{
la
品
1
,
i=k
,
k+l.
…
.m}
di=ail/IJ,
i=
品
,
k+1.
…
.m
σ=
咿
(dl)J~d:
d
1
←
d
1
+
σ
•
p=d1X
σ
For
j=
晶
,
k+1
, … ,
n+1
end
F=
吝
diXai
For
i= 品,是
+1
,…
,
m
aij
←
aη
-FXd
i
end
上述
aij
为
A
阵元素。
定义残差矢量
r=
Ax
-B
,
利用正交变换保持矢量
2
一范数不变的性质,
11
r
11
~
=
11
互王
11
~=
11
H A X
11
~=
(AIX-Bl)T(AlX-Bl)+g~
因此
,
X
的最小二乘估计值可由方程
A1x=B
1
给出,同时得到残差矢量范数
107
(4)
(5)
IIrllz=lgll
(6)
式
(5)
在有解情形下,则有
n
个局的状态变量可被精确地解出来。由于
Al
是上三角阵,所以可
用向后回代法求解,其算法描述如下。
For i
=n
,
n-
l,
… .1
Xi=a;;l(b
i
-
L:
ai;Xx;)
j-
i
+l
end
其中
aij
,
b
i
分别为
Al
和
Bl
元素。
当式(1)表示的线性方程组由
m
个方程增加到
m+1
个时,可在式
(3)
阵的第
n+1
行元素
下面增加一行新的元素,形成矩阵
r
Al
一
Bll
C=!
0
gl!
LC
1
'CZ
,…,
C.
C.+l
.J
然后左乘矶,
T
z
'
…,
T
忡
1
Givens
变换阵[巧,将
C
阵约化为上三角阵
í
Az
j
-Bzl
I
...….......…_..
~___
_.._.
- I
TC=
1 0
gz
1
"…
-
_.
..
-_.
_....
-~....
-.
_..
L
LO
,O …
0:
0 J
~v
,
v
,
'V.
(7)
(8)
式中
T=T
叶
1
…
T
z
T
1
,每个
T
i
对第
n
十
2
行和第
i
行元素进行
Givens
变换,使
Ci
元素化为零,
其算法描述如下:
剩余7页未读,继续阅读
资源评论
weixin_38545517
- 粉丝: 2
- 资源: 957
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功