区间直觉模糊连续交叉熵及其多属性决策方法

在区间直觉模糊（IVIF）环境下,利用连续有序加权平均（COWA）算子定义了一种新的区间直觉模糊数间的交叉熵,即区间直觉模糊连续交叉熵。依据提出的区间直觉模糊连续交叉熵定义了直觉模糊数间的连续交叉熵距离。基于TOPSIS的思想得到备选方案与理想方案的加权距离,并且计算备选方案与理想方案的相对贴近度,依据相对贴近度选择最优方案。其中,针对属性权重信息不完全确定条件下的决策问题,提出了以区间直觉模糊连续交叉熵最大为准则的规划模型;针对属性权重信息完全未知的情况,根据交叉熵理论确定属性权重向量。实验结果验证了新的决策方法的可行性和有效性。     

Two-dimensional minimum local cross-entropy thresholding based on co-occurrence matrix

This paper introduces a novel image segmentation method that performs histogram thresholding on an image with consideration to spatial information. The spatial information is the joint gray level values of the pixel to be segmented and its neighboring pixels that are based on the gray level co-occurrence matrix (GLCM). The new method was obtained by extending the one-dimensional (1D) cross-entropy thresholding method to a two-dimensional (2D) one in the GLCM. Firstly, the 2D local cross-entropy is defined at the local quadrants of the GLCM. Then, the 2D local cross-entropy is used to perform the optimal threshold selection by minimizing. Results from segmenting the real-world images demonstrate that the new method is capable of achieving better results when compared with 1D cross-entropy and other classical GLCM based thresholding methods.     

基于交叉熵的数字图像置乱程度评价方法

将交叉熵与图像的最优分块处理相结合,提出了一种基于分块交叉熵的数字图像置乱程度的评价方法。为了能用图像交叉熵反映出图像置乱效果,采用具有周期性的置乱变换进行实验,结果表明,该方法能够较好地刻画图像的置乱程度,反映了加密次数与置乱程度的关系,与人的视觉基本相符。而且对于不同的图像,该评价方法能在一定程度上反映了所用的置乱变换在各个加密阶段的效果。     

2维对称交叉熵图像阈值分割

现有阈值分割方法中所用的交叉熵不满足距离度量对称性,且算法运行速度尚有提升空间,为此提出基于分解的2维对称交叉熵图像阈值分割方法。首先通过运用对称交叉熵描述分割前后图像之间的差异程度,分别导出1维和2维对称交叉熵阈值选取公式,给出相应的2维快速递推算法,计算复杂性由穷举搜索的O(L4)降到O(L2);然后将2维对称交叉熵法的运算转换到两个1维空间上,计算复杂性进一步降低到O(L)。实验结果表明,与现有的2维非对称交叉熵法相比,该方法具有更强的抗噪性,运行时间大幅减少,是一种更有效的2维交叉熵阈值分割方法。     

双架次无人机(UAV)协同侦察的航路轨迹研究

本文介绍了交叉熵算法的基本原理、具体的建模方法、交叉熵算法的实时性和鲁棒性的特点,在实际应用中显示了良好的效果。鉴于军事侦察时间的紧迫性和空间的全面性的特点,依据无人机的具体应用技术特点,本文利用交叉熵算法对双架次的无人机的侦察路径进行规划,为路径规划提供了一种新的解决方法,并保证了侦察任务的路径规划在
在时间和效能上达到最优。     

灰度图像交叉熵阈值法的三维推广

针对现有的灰度图像交叉熵阈值化方法无法有效分割含有混合噪声图像的问题,在图像三维直方图的基础上提出三维交叉熵阈值化算法,同时给出三维交叉熵阈值法的快速递推公式.实验结果表明,三维方法结合了图像中像素的灰度及其局部空间的均值和中值信息,对于含有混合噪声的图像,具有比现有交叉熵阈值化算法更好的分割效果.     

交叉熵算法在企业违约风险评估中的应用研究

系统仿真是风险评价的一种重要手段,针对企业违约预测问题,提出了一种基于交叉熵算法的违约风险评判方法。采用公司未偿还贷款的概率作为衡量违约风险高低的标准,利用交叉熵方法构造企业违约风险识别模型及其算法,并由此估计出发生损失的概率。与传统的预测方法进行比较,结果表明该模型对违约风险具有很强的识别能力,预测精度高。     

混合型概率犹豫模糊熵和交叉熵测度

针对已有概率犹豫模糊熵测度构造复杂、区分能力弱等缺点,提出一种混合型概率犹豫模糊熵测度.混合型熵测度能够综合反映概率犹豫模糊元所具有的个体不确定性和整体不确定性,具有结构简单、物理意义明确、区分能力强等优势.在概率犹豫模糊元规范化的基础上,基于混合型熵测度的构造理念所设计的混合型交叉熵测度,能够克服已有交叉熵测度的设计缺陷,综合反映两个概率犹豫模糊元之间的个体区分度和整体区分度,且具有自然的对称性.基于混合型熵测度和交叉熵测度,进一步设计概率犹豫模糊环境下的多属性决策方法,并将其应用于无人机集群作战效能评估.数值和理论分析结果表明,所提出的混合型概率犹豫模糊熵和交叉熵测度能够成对设计,互为印证,具有广泛的应用前景.     

Minimum cross-entropy pattern classification and cluster analysis

This paper considers the problem of classifying an input vector of measurements by a nearest neighbor rule applied to a fixed set of vectors. The fixed vectors are sometimes called characteristic feature vectors, codewords, cluster centers, models, reproductions, etc. The nearest neighbor rule considered uses a non-Euclidean information-theoretic distortion measure that is not a metric, but that nevertheless leads to a classification method that is optimal in a well-defined sense and is also computationally attractive. Furthermore, the distortion measure results in a simple method of computing cluster centroids. Our approach is based on the minimization of cross-entropy (also called discrimination information, directed divergence, K-L number), and can be viewed as a refinement of a general classification method due to Kullback. The refinement exploits special properties of cross-entropy that hold when the probability densities involved happen to be minimum cross-entropy densities. The approach is a generalization of a recently developed speech coding technique called speech coding by vector quantization.     

基于三帧差法和交叉熵阈值法的车辆检测

考虑运动车辆图像的时间相关性和空间相关性,采用三帧差分法与二维交叉熵阈值法相结合的方法对运动车辆进行检测。利用三帧差分法对视频图像进行运动车辆的检测,得到灰度图像的差分图像,使用二维交叉熵阈值法对差分图像进行二值化。实验结果证明,该方案能够检测出完整的运动车辆,具有良好的可靠性和鲁棒性,满足智能交通系统的要求。     

基于交叉熵的正态分布区间数多属性决策方法

针对以正态分布区间数为信息环境的多属性决策问题,提出了一种基于交叉熵和得分函数的决策方法。给出利用[3σ]原则将一般区间数转化为正态分布区间数的方法,提出正态分布区间数的交叉熵,熵等概念及相关性质。基于各对象与正理想对象的总区别信息最小化准则,通过建立非线性规划模型求解出了属性权重的公式,研究了正态分布区间数的集结方法和比较方法,给出了一种新的多属性决策途径。分别将所提方法应用于多属性决策和模式识别中,验证了该方法的可行性和简易性。     

基于分布差异的多时相SAR图像变化检测

结合SAR的后向散射特性和成像特点,利用交叉熵给出一种基于Edgeworth多项式的分布差异法检测不同时相的SAR图像变化区域。该方法采用Edgeworth多项式拟合SAR图像的密度分布,利用交叉熵计算两幅图像的差异指数,获得的差异图像能较好地反映图像变化情况,抑制了SAR图像固有的斑点噪声影响,采用CFAR分割差异图像得到的变化检测结果表明该方法具有高检测率、低虚警率的特点。     

基于强化学习的对抗预训练语言建模方法

在大规模无监督语料上的BERT、XLNet等预训练语言模型,通常采用基于交叉熵损失函数的语言建模任务进行训练。模型的评价标准则采用困惑度或者模型在其他下游自然语言处理任务中的性能指标,存在损失函数和评测指标不匹配等问题。为解决这些问题,该文提出一种结合强化学习的对抗预训练语言模型RL-XLNet(Reinforcement Learning-XLNet)。RL-XLNet采用对抗训练方式训练一个生成器,基于上下文预测选定词,并训练一个判别器判断生成器预测的词是否正确。通过对抗网络生成器和判别器的相互促进作用,强化生成器对语义的理解,提高模型的学习能力。由于在文本生成过程中存在采样过程,导致最终的损失无法直接进行回传,故提出采用强化学习的方式对生成器进行训练。基于通用语言理解评估基准(GLUE Benchmark)和斯坦福问答任务(SQuAD 1.1)的实验,结果表明,与现有BERT、XLNet方法相比,RL-XLNet模型在多项任务中的性能上表现出较明显的优势: 在GLUE的六个任务中排名第1,一个任务排名第2,一个任务排名第3。在SQuAD 1.1任务中F₁值排名第1。考虑到运算资源有限,基于小语料集的模型性能也达到了领域先进水平。     

求解PCB钻孔机刀具路径规划的交叉熵方法

工作刀具路径的优化程度是PCB钻孔机的重要性能指标,对其进行很好的优化有助于提高PCB设备的加工质量和加工速度.首先对刀具路径进行建模,然后对交叉熵算法进行描述并应用交叉熵方法对刀具路径进行求解.实验结果表明,选择交叉熵方法对环境进行建模简单、有效,在求解刀具路径规划方面具有一定的优势.     

基于交叉熵的ITFN的多属性决策方法

针对属性值为直觉梯形模糊数且属性权重完全未知的多属性决策问题,提出了一种基于交叉熵的决策方法。给出期望值的方法将直觉梯形模糊数转化为直觉模糊数,进而提出直觉模糊数的交叉熵等概念及相关性质。基于各方案与正理想方案的总区别信息最小化原则,建立非线性模型,求出属性权重。用实例说明该方法的有效性。     

区间犹豫模糊三角相似度及其多属性群决策

构建了区间犹豫模糊三角相似度公式,并且研究了区间犹豫模糊环境下属性权重信息完全未知的多属性群决策方法。首先基于正弦三角函数构造了区间犹豫模糊三角相似度公式,并证明其满足区间犹豫模糊相似度公理化定义的四个条件;接着给出了区间犹豫模糊交叉熵的公理性定义,同时研究了区间犹豫模糊相似度和区间犹豫模糊交叉熵的关系;最后基于区间犹豫模糊三角相似度,提出了在属性权重信息完全未知条件下的区间犹豫模糊多属性群决策方法,并用实例验证该方法的可行性和有效性。     

Revisiting squared-error and cross-entropy functions for training neural network classifiers

This paper investigates the efficacy of cross-entropy and square-error objective functions used in training feed-forward neural networks to estimate posterior probabilities. Previous research has found no appreciable difference between neural network classifiers trained using cross-entropy or squared-error. The approach employed here, though, shows cross-entropy has significant, practical advantages over squared-error.     

Fault diagnosis of turbine based on fuzzy cross entropy of vague sets

The fuzzy cross entropy of vague sets, so-called vague cross entropy, is introduced by analogy with the cross entropy of probability distributions. And then a new method of the fault diagnosis is proposed on the basis of the vague cross entropy and is applied to the fault diagnosis of turbine. The vague cross entropy between a testing sample and the knowledge of system faults is evaluated in the fault diagnosis of the turbine vibration. If the cross-entropy value is small, the testing sample is near to a type of fault knowledge. Then, the type of vibration fault is determined according to the minimum cross-entropy value. The fault-diagnosis example of the turbine demonstrates that the proposed method cannot only diagnose the main fault types of the turbine, it can also detect useful information for future trends and multi-fault analysis.     

Spatial context cross entropy function based multilevel image segmentation using multi-verse optimizer

Multimedia Tools and Applications - In this paper, a context-sensitive energy curve based cross-entropy method for multilevel color image segmentation is proposed. In thresholding approaches,...     

A note on information entropy measures for vague sets and its applications

A new nonprobabilistic entropy of a vague set is proposed by means of the intersection and union of the membership degree and nonmembership degree of the vague set. The concept called vague cross-entropy of vague sets will also be discussed and its definition is given by analogy with the cross-entropy of probability distributions. Finally, two numeric examples are presented to illustrate the applications of vague cross-entropy to pattern recognition and medical diagnosis.