没有合适的资源?快使用搜索试试~ 我知道了~
这个课件主要对信道与信道容量进行讲解。 1 信源符号自信息量:指某一符号出现后,提供给收信者的最大信息量; 2 信源符号不确定度:它是信源符号固有的,不管符号是否发出,都存在不确定度。它在数量上等于它的自信息量,两者单位也相同。
资源推荐
资源详情
资源评论
21/8/16
南通大学
1
第 3 章 信道与信道容量
1 信源符号自信息量:指某一符号出现后,提
供给收信者的最大信息量;
2 信源符号不确定度:它是信源符号固有的,
不管符号是否发出,都存在不确定度。它在
数量上等于它的自信息量,两者单位也相同。
1
( ) log ( ) log
( )
i i
i
I x p x
p x
21/8/16
南通大学
2
第 3 章 信道与信道容量
•
1 平均自信息量:消除信源不确定度时所需要
的信息量,即收到一个信源符号,全部解除了
这个符号的不确定度。或者说,获得这样大的
信息量后,信源不确定度就被消除了。
•
2 信源平均不确定度:在总体平均意义上的信
源不确定度。不管是否输出符号,只要这些符
号具有某种概率分布,就决定了信源的平均不
确定度。通常,我们常称之为信源熵。
[ ( )] ( ) ( ) ( ) log ( )
i i i i
i i
E I X p x I x p x p x
21/8/16
南通大学
3
第 3 章 信道与信道容量
;
, log
,
, log
, log
;
i j
i j
ij
i
i j
i j
ij
i j
j i
i j
ij
j
I X Y H X H X Y
p x y
p x y
p x
p x y
p x y
p x p y
p y x
p x y
p y
I Y X
21/8/16
南通大学
4
第 3 章 信道与信道容量
21/8/16
南通大学
5
第 3 章 信道与信道容量
互信息的性质
所以: 只是输入信源 X 的概率分布 p(x
i
) 和信道
转移概率 p(y
j
|x
i
) 的函数。
当 p(x
i
) 一定时
,
I 是关于 p(y
j
|x
i
) 的 U 型凸函数,存在
极小值;
当 p(y
j
|x
i
) 一定时
,
I 是关于 p(x
i
) 的∩型凸函数,存在
极大值。
; , log log
j i j i
i j i j i
ij ij
j j
j i j i
i
p y x p y x
I X Y p x y p x p y x
p y p y
p y p x p y x
;I X Y
剩余63页未读,继续阅读
资源评论
zjhncut
- 粉丝: 0
- 资源: 7
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功