信息论基本公式汇总1111

信息论在机器学习领域可以说是必备的知识，熵、互信息等概念随处可见，为了方便使用，特将信息论中常用到的公式进行了汇总，在这里分享给大家，希望能对大家有所帮助。