信息论的逻辑基础是分区的新开发逻辑,它与子集的常规布尔逻辑是双重的。 关键概念是分区的“区分”,即分区的不同块中的元素的有序对。 基于分区逻辑的熵的逻辑概念是对有限集上分区的区别集的归一化计数度量-就像基于子集布尔逻辑的概率的通常逻辑概念是对子集的布尔逻辑的概率论逻辑一样子集(事件)。 因此,逻辑熵是对有序对集合的度量,并且所有熵的复合概念(联合熵,条件熵和互信息)都以通常的方式从该度量中产生(例如,包含-排除原理)-就像相应的概率概念一样。 分区的通常Shannon熵是通过用进行分区的所有区分所必需的二进制分区(位数)的平均数替换标准化的差异(点)计数来开发的。