相关熵

本文从“曲线分布密度”概念出发，对有函数关系的两个随机变量，提出“相关熵”的定义。首先论证了联含熵概念应用于这样的随机向量时，所得结果不能成立；继而提出“相关熵”定义，研究了相关熵的性质，得出一些有意义的结论。