《信息理论与编码》习题参考答案
第 1 章
1. 信息是什么?信息与消息有什么区别和联系?
答:信息是对事物存在和运动过程中的不确定性的描述。 信息就是各种消息符号所包含
的具有特定意义的抽象内容,而消息是信息这一抽象内容通过语言、文字、图像和数据等的具体
表现形式。
2. 语法信息、语义信息和语用信息的定义是什么?三者的关系是什么?
答:语法信息是最基本最抽象的类型,它只是表现事物的现象而不考虑信息的内涵。语
义信息是对客观现象的具体描述,不对现象本身做出优劣判断。语用信息是信息的最高层次。
它以语法、语义信息为基础,不仅要考虑状态和状态之间关系以及它们的含义,还要进一步
考察这种关系及含义对于信息使用者的效用和价值。三者之间是内涵与外延的关系。
第 2 章
1. 一个布袋内放 100 个球,其中 80 个球是红色的,20 个球是白色的,若随机摸取一个球,
猜测其颜色,求平均摸取一次所能获得的自信息量?
答:依据题意,这一随机事件的概率空间为
其中: 表示摸出的球为红球事件, 表示摸出的球是白球事件。
a)如果摸出的是红球,则获得的信息量是
(比特)
b)如果摸出的是白球,则获得的信息量是
(比特)
c) 如果每次摸出一个球后又放回袋中,再进行下一次摸取。则如此摸取 次,红球出现的
次数为 次,白球出现的次数为 次。随机摸取 次后总共所获得信息量为
d)则平均随机摸取一次所获得的信息量为
2. 居住某地区的女孩中有 25%是大学生,在女大学生中有 75%是身高 1.6 米以上的,而女孩
中身高 1.6 米以上的占总数的一半。假如我们得知“身高 1.6 米以上的某女孩是大学生”的消息,问
获得多少信息量?
答:设事件 A 为女孩是大学生;设事件 B 为女孩身高 1.6 米以上。
根据题意,则知: