没有合适的资源?快使用搜索试试~ 我知道了~
2.1 莫尔斯电报系统中,若采用点长为0.2s,1划长为0.4s,且点和划出现的概率分别为2/3和1/3,试求它的信息速率(bits/s)。 2.2 一个8元编码系统,其码长为3,每个码字的第一个符号都相同(用于同步),若每秒产生1000个码字,试求其信息速率(bits/s)。
资源推荐
资源详情
资源评论
2.1 莫尔斯电报系统中,若采用点长为 0.2s,1 划长为 0.4s,且点和划出现的概率分别为 2/3 和 1/3,试求它的信息速
率(bits/s)。
解: 平均每个符号长为: 秒
每个符号的熵为 比特/符号
所以,信息速率为 比特/秒
2.2 一个 8 元编码系统,其码长为 3,每个码字的第一个符号都相同(用于同步),若每秒产生 1000 个码字,试求其信息速率
(bits/s)。 解: 同步信号均相同不含信息,其余认为等概,每个码字的信息量为 3*2=6 比特;
所以,信息速率为 比特/秒
2.3 掷一对无偏的骰子,若告诉你得到的总的点数为:(a) 7;(b) 12。试问各得到了多少信息量?
解: (a)一对骰子总点数为 7 的概率是 所以,得到的信息量为 比特
(b) 一对骰子总点数为 12 的概率是 所以,得到的信息量为 比特
2.4 经过充分洗牌后的一付扑克(含 52 张牌),试问:(a) 任何一种特定排列所给出的信息量是多少?
(b) 若从中抽取 13 张牌,所给出的点数都不相同时得到多少信息量?
解: (a)任一特定排列的概率为 , 所以,给出的信息量为 比特
(b) 从中任取 13 张牌,所给出的点数都不相同的概率为
所以,得到的信息量为 比特.
2.5 设有一个非均匀骰子,若其任一面出现的概率与该面上的点数成正比,试求各点出现时所给出的信息量,并求掷
一次平均得到的信息量。
解:易证每次出现 i 点的概率为 ,所以
2.6 园丁植树一行,若有 3 棵白杨、4 棵白桦和 5 棵梧桐。设这 12 棵树可随机地排列,且每一种排列都是等可能的。
若告诉你没有两棵梧桐树相邻时,你得到了多少关于树的排列的信息?
1
解: 可能有的排列总数为 没有两棵梧桐树相邻的排列数可如下图求得, Y X Y X Y X Y X
Y X Y X Y X Y 图中 X 表示白杨或白桦,它有 种排法,Y 表示梧桐树可以栽种的位置,它有 种排法,所
以共有 * =1960 种排法保证没有两棵梧桐树相邻,因此若告诉你没有两棵梧桐树相邻时,得到关于树排列的信息
为 =3.822 比特
2.7 某校入学考试中有 1/4 考生被录取,3/4 考生未被录取。被录取的考生中有 50%来自本市,而落榜考生中有 10%来自本市,
所有本市的考生都学过英语,而外地落榜考生中以及被录取的外地考生中都有 40%学过英语。 (a) 当己知考生来自本市时,给
出多少关于考生是否被录取的信息? (b) 当已知考生学过英语时,给出多少有关考生是否被录取的信息? (c) 以 x 表示是否落榜,
y 表示是否为本市学生,z 表示是否学过英语,x、y 和 z 取值为 0 或 1。试求 H(X),H(Y|X),H(Z|YZ)。
解: X=0 表示未录取,X=1 表示录取; Y=0 表示本市,Y=1 表示外地;Z=0 表示学过英语,Z=1 表示未学过英语,由此得
2
2.8 在 A、B 两组人中进行民意测验,组 A 中的人有 50%讲真话(T),30%讲假话(F),20%拒绝回答(R)。而组 B 中有 30%讲真话,
50%讲假话和 20%拒绝回答。设选 A 组进行测验的概率为 p,若以 I(p)表示给定 T、F 或 R 条件下得到的有关消息来自组 A 或组
B 的平均信息量,试求 I(p)的最大值。
解:令 ,则
2.9 随机掷三颗骰子,以 X 表示第一颗骰子抛掷的结果,以 Y 表示第一和第二颗骰子抛掷的点数之和,以 Z 表示三颗骰子的点
数之和。试求 H(Z|Y)、H(X|Y)、H(Z|XY),H(XZ|Y)和 H(Z|X)。
3
解:令 X=X
1
,Y=X
1
+X
2
,Z=X
1
+X
2
+X
3
, H(X
1
)=H(X
2
)=H(X
3
)= 比特 H(X)= H(X
1
) = =2.585 比特
H(Y)= H(X
2
+X
3
)
=
= 3.2744 比特
H(Z)= H(X
1
+X
2
+X
3
)
= 3.5993 比特
所以
H(Z/Y)= H(X
3
)= 2.585 比特 H(Z/X) = H(X
2
+X
3
)= 3.2744 比特
H(X/Y)=H(X)-H(Y)+H(Y/X) = 2.585-3.2744+2.585 =1.8955 比特
H(Z/XY)=H(Z/Y)= 2.585 比特 H(XZ/Y)=H(X/Y)+H(Z/XY) =1.8955+2.585 =4.4805 比特
2.12 计算习题 2.9 中的 I (Y;Z),I (X;Z),I (XY;Z),I (Y;Z|X)和 I (X;Z|Y)。
解:I(Y;Z)=H(Z)-H(Z/Y) =H(Z)- H(X
3
)= 3.5993-2.585 =1.0143 比特
I(X;Z)=H(Z)-H(Z/X)=3.5993- 3.2744=0.3249 比特
I(XY;Z)=H(Z)-H(Z/XY) =H(Z)-H(Z/Y) =1.0143 比特
I(Y;Z/X)=H(Z/X)-H(Z/XY)= H(X
2
+X
3
)-H(X
3
) =3.2744-2.585 =0.6894 比特
I(X;Z/Y)=H(Z/Y)-H(Z/XY)=H(Z/Y)-H(Z/Y) =0
2.10 设有一个系统传送 10 个数字:0, 1, …, 9。奇数在传送时以 0.5 的概率错成另外的奇数,而其它数字总能正确接
收。试求收到一个数字平均得到的信息量。
解:设系统输出 10 个数字 X 等概,接收数字为 Y,
显然 , H(Y)=log10
所以 I(X;Y)= 比特
2.11 令{u
l
, u
2
, …, u
8
}为一等概消息集,各消息相应被编成下述二元码字:
u
l
=0000,u
2
=0011,u
3
=0101,u
4
=0110 u
5
=1001,u
6
=1010,u
7
=1100,u
8
=1111
通过转移概率为 p 的 BSC 传送。试求:(a) 接收的第一个数字 0 与 u
l
之间的互信息量。
(b) 接收的前二个数字 00 与 u
l
之间的互信息量。(c) 接收的前三个数字 000 与 u
l
之间酌互信息量。
4
剩余23页未读,继续阅读
资源评论
UN_spoken
- 粉丝: 37
- 资源: 1
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功