信息论基础教程课件

香农信息:信息是事物运动状态或存在方式的不确定性的描述。 可运用研究随机事件的数学工具——概率来测度不确定性的大小。在信息论中，我们把消息用随机事件表示，而发出这些消息的信源则用随机变量来表示。