基于免疫克隆算法的LVQ聚类算法权值优化

学习矢量量化(LVQ)聚类算法存在严重的对初值敏感的问题,若初值的选择偏差太大,就不会产生好的聚类效果,致使聚类精准度不够。免疫克隆算法具有很强的群体搜索能力,将免疫克隆算法用于优化LVQ聚类算法的初值,并将改进得到的聚类算法用于对IRIS数据集进行分类。分类结果与标准的LVQ算法的比较表明,改进后的聚类算法在稳定性上有了较大幅度的提高。     

MLVQ网络聚类算法

讨论了关于改进LVQ聚类网络的理论与算法.为克服LVQ网络聚类算法对初值敏 感的问题广义学习矢量量化(GLVQ)网络算法对LVQ算法进行了改进,但GLVQ算法性能不 稳定.GLVQ-F是对GLVQ网络算法的修改,但GLVQ-F算法仍存在对初值的敏感问题.分 析了GLVQ-F网络算法对初值敏感的原因以及算法不稳定的理论缺陷,改进了算法理论并给 出了一种新的改进的网络算法(MLVQ).实验结果表明新的算法解决了原有算法所存在的问 题,而且性能稳定.     

学习矢量量化的推广及其典型形式的比较

无监督学习矢量量化(LVQ)是一类基于最小化风险函数的聚类方法,文中通过对无监督LVQ风险函数的研究,提出了无监督LVQ算法的广义形式,在此基础上将当前典型的LVQ算法表示为基于不同尺度函数的LVQ算法,极大地方便了学习矢量量化神经网络的推广与应用。通过对无监督LVQ神经网络的改造,得到了基于无监督聚类算法的有监督LVQ神经网络,并将其应用于说话人辨认,取得了满意的结果并比较了几种典型聚类算法的优劣。     

一种模糊相似关系的基因表达数据聚类方法

对于时间序列的基因表达数据,传统的聚类算法都是以距离为相似性度量标准,没有考虑基因随时间变化的相似趋势。从基因变化的趋势出发,构造了一种新的模糊相似关系矩阵,提出了改进的基于模糊相似关系的聚类算法,并以该算法计算FCM的初始聚类中心。将该方法应用在酵母菌基因表达数据中,实验结果表明该算法不仅克服了FCM算法易陷入局部极小值、对初值敏感的缺点,而且能够发现一些表达模式变化趋势相似的共调控基因。     

基于模糊K-harmonic means的谱聚类算法

谱聚类作为一种有效的方法广泛应用于机器学习。通过分析谱聚类初始化敏感的实质,引入对初值不敏感的模糊K-harmonic means算法来克服这一缺点,提出一种基于模糊K-harmonic means的谱聚类算法（FKHM-SC）。与传统谱聚类算法以及对初值敏感的K-means、FCM算法相比,改进算法不仅可以识别有挑战性的人工数据,并且可以得到稳定的聚类中心和聚类结果,同时提高了聚类的精确度。实验结果表明了该算法的有效性和可行性。     

基于改进花朵授粉的K-均值聚类算法

针对K-means聚类算法依赖于初始值并易陷入局部最优值的问题,提出了一种基于改进花朵授粉的K-means聚类算法。该算法首先通过混沌映射的序列作为花朵种群的初值位置,保证花朵种群在搜索空间的多样性、确定性;然后在花朵授粉的后期搜索阶段引入禁忌搜索算法以避免陷入局部最优解;最后将改进后的FPA算法用于优化K-means算法的初值。在五个聚类数据集上的实验结果表明,改进后算法的平均聚类准确率相比于花朵授粉聚类算法提高了12.2%,证明了该算法对于低维数据集具有更好的聚类效果。     

基于粒子群的改进模糊聚类图像分割算法

基于粒子群优化的改进模糊聚类图像分割算法将微粒群搜索聚类中心作为图像分割的聚类初值,克服了FCM分割算法对聚类中心初值敏感的缺点,大幅提高了图像分割算法的计算速度。改进的模糊聚类图像分割算法,一方面考虑到像素的空间位置信息和相互邻域之间像素有很大的相关性,在目标函数中引入邻域惩罚函数;另一方面提出聚类在二维方向上进行更新的思想,建立了包含邻域单元熵的新聚类目标函数。实验结果表明,该方法可以使模糊聚类的速度得到明显提高,对初始聚类中心不敏感,抗噪能力强,是一种有效的模糊聚类图像分割方法。     

一种k-均值聚类的改进算法

由于k-均值经典算法必须在聚类前随机地选择聚类的个数k,则后所得到的聚类结果会受到初始选择的聚类个数的影响。针对这个问题,根据寻找最优初值及免受孤立点影响的思想,提出了一种改进的k-均值聚类算法。实验证明改进的k-均值聚类算法在一定程度上解决了该算法对初始值的依赖,并部分减少了算法受噪声数据影响的可能。     

基于K-means的文本聚类算法①

针对K—means算法容易收敛到局部最优以及对初值的依赖性,基于多次采样一次预聚类搜索初始聚类中心的思想,提出了一种改进的K—means文本聚类方法。实验结果表明,改进的算法较原算法在准确率上有较大提高,并且具有更好的稳定性。     

初始化独立的谱聚类算法

谱聚类作为一种新颖的聚类算法近年来受到模式识别领域的广泛关注。针对传统谱聚类算法对初始中心敏感的特点,通过引入对初值不敏感的k-调和平均算法,提出一种初始化独立的谱聚类算法。在人工数据和真实数据上的实验表明,相比于传统的k-means算法、FCM算法和EM算法,改进算法在稳定性和聚类性能上有了显著的提高。     

广义LVQ神经网络的性能分析及其改进

首先从理论上分析了广义学习矢量量化(GLVQ)网络的GLVQ-F算法的性能, GLVQ-F算法在一定程度上克服了GLVQ算法存在的问题.然而,它对获胜表现型的学习具 有好的性能,对于其它的表现型,性能却十分不稳定,分析了产生这个问题的原因,直接从表 现型的学习率出发,提出了选取学习率的准则,并给出了两种改进的算法.最后,使用IRIS数 据验证了算法的性能,改进算法较之GLVQ-F算法具有明显的稳定性和有效性.     

Repairs to GLVQ: a new family of competitive learning schemes

First, we identify an algorithmic defect of the generalized learning vector quantization (GLVQ) scheme that causes it to behave erratically for a certain scaling of the input data. We show that GLVQ can behave incorrectly because its learning rates are reciprocally dependent on the sum of squares of distances from an input vector to the node weight vectors. Finally, we propose a new family of models-the GLVQ-F family-that remedies the problem. We derive competitive learning algorithms for each member of the GLVQ-F model and prove that they are invariant to all scalings of the data. We show that GLVQ-F offers a wide range of learning models since it reduces to LVQ as its weighting exponent (a parameter of the algorithm) approaches one from above. As this parameter increases, GLVQ-F then transitions to a model in which either all nodes may be excited according to their (inverse) distances from an input or in which the winner is excited while losers are penalized. And as this parameter increases without limit, GLVQ-F updates all nodes equally. We illustrate the failure of GLVQ and success of GLVQ-F with the IRIS data.     

Initialization insensitive LVQ algorithm based on cost-function adaptation

A learning vector quantization (LVQ) algorithm called harmonic to minimum LVQ algorithm (H2M-LVQ)¹ is presented to tackle the initialization sensitiveness problem associated with the original generalized LVQ (GLVQ) algorithm. Experimental results show superior performance of the H2M-LVQ algorithm over the GLVQ and one of its variants on several datasets.     

广义LVQ神经网络的性能分析及其改进1)

In this paper, the performance of GLVQ-F algorithm of GLVQ network is theoretically analyzed. The GLVQF algorithm, to some extent, has overcome the shortcomings that GLVQ algorithm possesses. But, there are some problems in GLVQF algorithm, for example, the algorithm has good performance on the winning prototype, and on other prototypes, its performance is very unstable. In this paper, the reasons of the problem are discussed. The rules of choosing the learning rates are proposed, and two modified algorithms are developed therefrom. Finally, the performance of the modified algorithms is verified with IRIS data, which shows the modified algorithms are more stable and effective than GLVQF algorithm.     

广义LVQ神经网络的性能分析及其改进

首先从理论上分析了广义学习矢量量化（ＧＬＶＱ）网络的ＧＬＶＱＦ算法的性能,ＧＬＶＱＦ算法在一定程度上克服了ＧＬＶＱ 算法存在的问题．然而,它对获胜表现型的学习具有好的性能,对于其它的表现型,性能却十分不稳定．分析了产生这个问题的原因,直接从表现型的学习率出发,提出了选取学习率的准则,并给出了两种改进的算法．最后,使用ＩＲＩＳ数据验证了算法的性能,改进算法较之ＧＬＶＱＦ算法具有明显的稳定性和有效性．     

基于改进型GLVQ算法的车型分类研究

学习向量量化（LVQ）和泛化学习向量量化（GLVQ）算法都是采用欧氏距离作为相似性度量函数, 忽视了向量各维属性的数据取值范围,从而不能区分各维属性在分类中的不同作用。针对该问题,使用一种面向特征取值范围的向量相似性度量函数,对GLVQ进行改进,提出了GLVQ-FR算法。使用视频车型分类数据进行改进型GLVQ和LVQ2.1、GLVQ、GRLVQ、GMLVQ等算法的对比实验,结果表明：GLVQ-FR算法在车型分类中具有较高的分类准确性、运算速度和真实生产环境中的可用性。     

Neural clustering networks based on global optimisation of prototypes in metric spaces

The utilisation of clustering algorithms based on the optimisation of prototypes in neural networks is demonstrated for unsupervised learning. Stimulated by common clustering methods of this type (learning vector quantisation [LVQ, GLVQ] and K-means) a globally operating algorithm was developed to cope with known shortcomings of existing tools. This algorithm and K-means (for the common methods) were applied to the problem of clustering EEG patterns being pre-processed. It can be shown that the algorithm based on global random optimisation may find an optimal solution repeatedly, whereas K-means provides different sub-optimal solutions with respect to the quality measure defined as objective function. The results are presented. The performance of the algorithms is discussed.     

Application of the cross entropy method to the GLVQ algorithm

This paper discusses an alternative approach to parameter optimization of well-known prototype-based learning algorithms (minimizing an objective function via gradient search). The proposed approach considers a stochastic optimization called the cross entropy method (CE method). The CE method is used to tackle efficiently the initialization sensitiveness problem associated with the original generalized learning vector quantization (GLVQ) algorithm and its variants. Results presented in this paper indicate that the CE method can be successfully applied to this kind of problem on real-world data sets. As far as known by the authors, it is the first use of the CE method in prototype-based learning.     

解决移动计算位置管理问题的差分进化算法

提出了一种解决位置管理问题的差分进化算法,给出了一种将采用浮点编码的种群个体映射为问题解的方法、基于问题特性的种群初始化启发式方法,以及早熟收敛问题的解决策略.基于随机生成的数据对算法进行了模拟实验,将该算法的结果与遗传算法、禁忌搜索算法及蚁群算法进行了对比.