![](https://csdnimg.cn/release/download_crawler_static/85730022/bg2.jpg)
第 5 章 无失真信源编码和有噪信道编码简介
通信的根本任务,是有效而可靠地传输信息。要达到这
个目的,一般要通过信源编码和信道编码来完成,如图 5-1
所示。信源编码的主要作用是用信道能传输的符号来代表信
源发出的消息,使信源适合于信道的传输。并且,在不失真
或允许一定失真的条件下,用尽可能少的符号来传送信源消
息,提高信息传输率。信道编码的作用主要是在信道受到干
扰的情况下,增加信号的抗干扰能力,同时又保持尽可能大
的信息传输率。一般而言,提高抗干扰能力往往是以降低信
息传输率为代价的,反之,要提高信息传输率又常常会使得
抗干扰能力减弱,二者是有矛盾的,不可兼得。然而,在信
息论的编码定理中,理论上证明了至少存在某种最佳的编码
或信息处理方法,使之达到最优化。这些结论对各种通信系
统的设计具有重大的理论意义和应用价值。
![](https://csdnimg.cn/release/download_crawler_static/85730022/bg4.jpg)
第 5 章 无失真信源编码和有噪信道编码简介
5.1 单义可译定理
在实际信道中,首先遇到这样一个问题:设原始信源 S 发出 q 种不
同的符号,其符号集为 S : {s
1
, s
2
,…, s
q
} 。传输信息的信道 {XP(Y|
X)Y} 的输入符号集为 X : {a
1
, a
2
,…, a
r
} 。这样信源发出的符号 s
i
(i
=1 , 2 ,…, q) 与信道能传输的符号 a
i
(i=1 , 2 ,…, r) 不一致,即信
源 S : {s
1
, s
2
,…, s
q
} 不适合于信道 {XP(Y|X)Y} 直接传输,信源 S 发
出的符号不能直接通过信道,也就无法进行传输了。怎样来解决这个问
题呢?为此,我们引入“信源编码”问题。显然,为了使信源 S 发出 q 种不
同的符号都能通过输入符号集为 X : {a
1
, a
2
,…, a
r
} 的信道,在信道
输入端前,必须用信道能传输的符号集 X : {a
1
, a
2
,…, a
r
} 中的符号
a
i
(i=1 , 2 ,…, r ) 对信源中的每一种不同的符号 s
i
(i=1 , 2 ,…, q) 编
码,生成适合信道传输的符号序列 W : {W
1
, W
2
,…, W
q
} ,以上这
个过程就是信源编码。图 5-2 表示了具有上述功能的信源编码器。图中符
号集 X : {a
1
, a
2
,…, a
r
} 称为码符号集, W
i
(i=1 , 2 ,…, q} 称为
码字。
![](https://csdnimg.cn/release/download_crawler_static/85730022/bg5.jpg)
第 5 章 无失真信源编码和有噪信道编码简介
图 5-2 信源编码器