基于样本空间分布密度的改进次胜者受罚竞争学习算法

针对传统次胜者受罚竞争学习(RPCL)算法忽略数据集几何结构对节点权值调整的影响,以及魏立梅等提出的新RPCL算法(魏立梅,谢维信.聚类分析中竞争学习的一种新算法.电子科学学刊,2000,22(1):13-18)引入密度来对节点的权值进行调整时,密度定义的主观性,提出基于样本空间分布密度的改进RPCL算法。该算法根据数据集样本自然分布定义样本密度,将此密度引入RPCL节点权值调整;使用UCI机器学习数据库数据集以及随机生成的带有噪声点的人工模拟数据集对算法进行实验测试,对算法确定数据集类簇数目的准确率、运行时间、聚类误差平方和、聚类结果的Rand指数、Jaccard系数以及Adjust Rand index参数进行分析比较。各项实验结果显示:所提算法优于原始RPCL算法和魏立梅算法,具有更好的聚类效果,对噪声数据有很强的抗干扰性能。所提算法不仅能根据样本的自然分布确定数据集的合理类簇数目,而且能确定合适的类簇中心,提高聚类的准确性,使聚类结果尽可能快地收敛到全局最优解。     

基于聚类分析和集成改进支持向量机的序列目标分类算法

针对现有集成支持向量机存在的训练子集随机性强、规模大、算法时空复杂度高等问题,提出了基于聚类分析的集成改进支持向量机算法.该方法首先采用基于对手惩罚策略的竞争学习算法(RPCL)时训练样本进行聚类分析,然后根据其聚类分布选择少量具有代表性的样本,并采用了基于种群收敛速度的自适应扰动的粒子群方法来训练单个支持向量机,最后通过相对多数投票方法得到集成支持向量机.实验表明相对于基于Bagging,Adaboost等方法而言,该方法在序列目标分类中对分类精度有较大提高,该方法构造的集成改进支持向量机具有较高的分类精度和较低的时、空复杂性.     

基于类自适应高斯-马尔可夫随机场模型和EM算法的MR图像分割

高斯-马尔可夫随机场模型既利用了图像像素的灰度信息,又通过像素类别标记的Gibbs光滑先验概率引入了图像的空间信息,是能较好地分割含有噪声图像的模型,然而,Gibbs惩罚因子β的确定却一直是个难点,为获得好的分割效果,通常用多个β值人工尝试。本文针对此问题,提出了一种新的、简单的、类自适应的惩罚因子β,其利用后验概率来自动计算,并具有各类各向异性。再将模型利用EM-MAP算法来迭代求解。最后,将该算法应用于MR图像的分割,实验结果表明,该算法能自适应地、有效地分割噪声图像,并具有较高的正确分类率和类正确分类率。     

一种改进的RPCL算法在语音识别中的应用

提出了一种结合全协方差矩阵的RPCL算法,并逐步删除那些只包含少量训练数据的类。这种算法,称之为改进的RPCL算法。它被用于话者识别中优化椭圆基函数网络的结构。实验证明,改进的RPCL算法比原来的RPCL算法能够更好地表征类,并得到更低的误识率。     

面向对象的竞争合作学习遥感影像聚类算法

目前的遥感图像聚类方法通常存在一些不可避免的缺陷,如类别数难于自动确定、聚类速度缓慢、聚类过程不稳定以及聚类结果存在椒盐噪声等。结合竞争合作学习和面向对象的图像处理技术的优点,提出一种无需事先指定确切类别数的面向对象的竞争合作学习图像聚类算法。为了加快聚类速度并获得稳定的聚类结果,还提出一种基于动态包围空间的中位切分算法,用于选定初始聚类中心。通过对遥感影像的聚类实验,验证了该算法能够自动获得聚类数并得到满意的聚类结果,说明算法具有很好的实用价值。     

聚类中心计数值和全局距离向量RPCL算法

针对标准的竞争学习算法(rival penalized competitive learning,RPCL)在问题规模较大情况下,算法收敛速度较慢以及无法精确找到聚类中心的问题,通过引入聚类中心计数值和全局距离向量的方法,提高了RPCL算法对于问题全局最优解的搜索能力,提出了一个基于聚类中心计数值和全局距离向量的RPCL算法改进。通过理论证明验证了该RPCL算法可以有效提高RPCL算法对于全局最优聚类中心的搜索能力以及聚类结果的准确性,实验结果表明了理论推导的正确性以及该算法的可行性。     

基于模糊相似度的RPCL文本聚类算法

文本聚类过程中,存在着文本数据空间维数巨大,聚类的数目不能直接确定等问题。为此,有专家学者提出了次胜者受罚的竞争学习(Rival Penalized Competitive Learning)算法,简称RPCL算法。该算法在一定程度上,解决了聚类的数目的确定问题。但是,该算法只适合做低维数据的聚类,对于高维数据聚类效果极差。该文提出了一种改进的RPCL算法,该方法不再采用欧氏距离去计算相似度,而是采用模糊相似度的方法,通过实验表明,改进的RPCL算法在聚类效果上好于经典的RPCL算法。     

一种基于误差的径向基神经网络学习方法

提出了一种基于误差的径向基神经网络竞争学习法，它以网络的输出误差为度量，通过竞争调节神经元中心，RLS算法训练网络的权值，并利用IPL算法判断网络神经元的冗余性。仿真结果表明，该算法提高了网络的输出精度，简化了网络结构，其运算速度也较快。     

基于类自适应高斯 马尔可夫随机场模型和EM算法的MR图像分割

高斯马尔可夫随机场模型既利用了图像像素的灰度信息,又通过像素类别标记的Gibbs光滑先验概率引入了图像的空间信息,是能较好地分割含有噪声图像的模型,然而,Gibbs惩罚因子β的确定却一直是个难点,为获得好的分割效果,通常用多个β值人工尝试。本文针对此问题,提出了一种新的、简单的、类自适应的惩罚因子β,其利用后验概率来自动计算,并具有各类各向异性。再将模型利用EMMAP算法来迭代求解。最后,将该算法应用于MR图像的分割,实验结果表明,该算法能自适应地、有效地分割噪声图像,并具有较高的正确分类     

学习矢量量化网络在太阳耀斑预报中的应用

为了提高太阳耀斑预报的预报精度,主要是提高识别性能,提出了应用学习矢量量化(Learning Vector Quantity,LVQ)网络建立耀斑预报模型.LVQ是一种基于竞争学习规则的神经网络,采用有监督学习模式.算法每次修改连接获胜输出单元的权向鼍.更新规则是获胜单元的类别与输入向量的类别相匹配,它的权向量将向模式移近,否则将距离拉开.应用LVQ的耀斑预报模型是两层神经网络结构,输入层单元为预报因子的特征值,输出单元是耀斑预报的类别.仿真预报结果证明预撤模型具有较高的预报精度,说明LVQ是有效的预报方法.     

基于聚类分析和集成神经网络的序列图像多目标识别算法

针对现有的集成神经网络的训练子集选择时没有考虑样本空间的分布情况,使得构造的训练子集具有很大的随机性和主观性,集成的差异性不能有效保证的缺点,提出了一种新的基于Hu七阶矩、RPCL聚类分析和集成神经网络的序列图像多目标识别算法.该方法首先在训练视频中连续提取序列图像中的目标--人、人群、汽车,利用Hu七阶矩提取轮廓信息.为了防止Hu七阶矩对小目标和非刚体目标的描述能力弱的缺点,再提取图像的面积信息.其次对所提取的8维数据采用基于对手惩罚策略的竞争学习算法(RPCL)进行聚类分析,得到待分样本的分布.再次采用提出的单个神经网络生成算法得到单个神经网络.最后采用相对多数方法对神经网络进行集成.采用基于boosting,bagging方法的集成神经网络和该算法进行比较,结果表明该方法的分类精度要高于传统方法,是一种有效的目标识别算法.     

基于最大信息系数的贝叶斯网络结构学习算法

为了得到正确的节点次序,构造接近最优的贝叶斯网络结构,利用最大信息系数与条件独立性测试相结合的方法,提出了一种新的贝叶斯网络结构学习算法（MICVO）。该算法利用最大信息系数衡量变量之间的依赖关系,生成初始的无向图,引入惩罚因子δ减少图中冗余边的数量,并将这个无向图分解成多个子结构,确定图中边的方向,最后生成正确的节点次序作为K2算法的输入学习网络结构。在两个基准网络Asia和Alarm中进行实验验证,结果表明基于最大信息系数的贝叶斯网络结构学习算法可以得到接近最优的节点次序,学习到的网络结构与数据的拟合程度更好,分类准确性更高。     

基于惩罚函数泛化的神经网络剪枝算法研究

神经网络的隐层数和隐层节点数决定了网络规模,并对网络性能造成较大影响。在满足网络所需最少隐层节点数的前提下,利用剪枝算法删除某些冗余节点,减少隐层节点数,得到更加精简的网络结构。基于惩罚函数的剪枝算法是在目标函数后加入一个惩罚函数项,该惩罚函数项是一个变量为网络权值的函数。由于惩罚函数中的网络权值变量可以附加一个可调参数,将单一惩罚函数项泛化为一类随参数规律变化的新的惩罚函数,初始惩罚函数可看作泛化后惩罚函数的参数取定值的特殊情况。实验利用基于标准BP神经网络的XOR数据进行测试,得到隐层节点剪枝效果和网络权值随惩罚函数的泛化而发生变化,并从数据分析中得出具有更好剪枝效果及更优网络结构的惩罚函数泛化参数。     

基于类别区分度和关联性分析的综合特征选择

提出一种基于类别区分度和关联性分析的综合特征选择算法。利用类别区分度提取具有较强类别区分能力的特征词,降低特征空间的稀疏性,通过特征的关联性分析衡量特征与类别的相关性及特征之间的冗余度,选出具有类别代表性且相互之间不存在冗余的特征词。实验结果表明,该算法能有效提高分类器性能。     

一种改进的RPCL聚类算法及其在软测量中的应用

传统RPCL聚类算法是在随机选取样本的前提下修正权矢量的,没有考虑样本集的空间分布情况。为此,该文提出了一种改进的RPCL聚类算法。该算法引入样本区域密度的概念,根据密度大小按不同的概率选取样本,以修正权矢量。利用文犤1犦中的算例证明了新算法比传统RPCL算法具有更好的聚类速度和精度。最后将算法用于基于RBF神经网络的氧化铝高压溶出过程中溶出率的软测量,仿真结果表明改进的RPCL算法能很好地实现数据样本的聚类,从而提高软测量模型的泛化能力。     

一种基于对策论的拥塞控制方法

大部分端到端拥塞控制机制假设端用户是"合作"的,并且它们的实现严重依赖于这个假设.但是当网络中有"不合作用户"出现时,将可能因为不公平的资源竞争(如带宽)而发生拥塞甚至导致拥塞崩溃.现有的拥塞控制方法不能很好地解决这个问题.提出了一种基于对策论的拥塞控制方法--有效违规用户惩罚算法,它把网络上非合作用户竞争资源看成N人非合作对策.算法具有"惩恶扬善"的功能,并使得对策存在着唯一的纳什均衡,从而解决了存在"非合作用户"而导致的拥塞问题.仿真结果证明了算法的有效性.     

一种用神经技术学习模糊分类规则的方法

本文提出一种用神经网络技术学习模糊分类规则的算法－有导师共振竞争学习算法（ＳＲＣＬ）。ＳＲＣＬ方法有机地把无导师ＡＲＴ学习方法和有导师竞争学习方法结合起来，可有效地学习模糊分类规则。警戒线参数是自适应变化的，从而可自动地确定连结权向量的个数。言语中给出一个数字例了，并对实验结果进行了分析。     

基于重叠率衡量融合策略的层次聚类算法研究

聚类的有效性问题即如何合理聚类一直是人们关注的焦点.而解决该问题的关键在于如何有效地区分具有重叠现象的类.首先提出了一种新的重叠率衡量方法(RL_OLR),基于该方法,结合图像分割运用,给出了一个新的层次聚类算法:基于重叠率衡量融合策略的层次聚类算法(CM_OLR),该方法可自动确定聚类的最佳聚类数,即图像分割数.为验证算法性能,以标准的人工分割图像库为基准对图像分割结果进行评估,并进行算法参数的统计确定.实验结果表明,算法具有较好的适应能力,可自动确定分割数,评估所得分准率及分全率综合衡量系数为0.611,而人工分割下为0.79.     

基于CSD-ELM的不平衡数据分类算法

基于代价敏感学习的极限学习机(ELM)算法在处理不平衡数据分类问题时,未考虑不同类别样本的分布特点以及同一类别中各样本的重要性对分类结果的影响。为此,提出基于样本数量比例的错分惩罚因子设置方法,并基于Mini-batch k-means聚类与距离测度设计一种类内样本权值确定方案。在此基础上,构建区分正、负类别的隐含层输出矩阵,根据训练样本数与ELM隐含层节点数间的关系,分2种情况计算ELM隐含层与输出层间的连接权值,以降低算法的时间复杂度。实验结果表明,与ELM、WELM等算法相比,该算法的G-mean、F1分类性能指标值均较高。     

拓扑优化变密度法的灰度单元分层双重惩罚方法

在连续体结构拓扑优化中,应用敏度过滤法可有效地去除数值不稳定问题,但易出现优化结构边界灰度扩散现象.为了获得边界清晰的拓扑结果,提出一种变密度法的灰度单元分层双重惩罚方法.该方法通过调节不含敏度过滤的SIMP优化算法中的惩罚因子,对过滤后单元敏度进行修正,加速中间密度单元向0或1的离散状态逼近.为了加快这个过程,将该方法与分层网格细分策略相结合,优化从一个粗的有限元网格开始,利用单元密度等效映射方法将粗网格求解优化问题的结果映射为同一问题具有更细网格的初始输入,通过减少优化过程中的计算消耗,在取得具有清晰边界拓扑结构的同时提升优化过程的收敛速率.采用不同方法求解MBB梁,对最终优化结构中所含的中间密度单元数量和优化所需时间消耗进行对比;利用不同网格划分下的悬臂梁算例验证该方法的网格依赖性.结果表明,结合分层双重惩罚的SIMP算法在保留原始求解稳定性的同时,能获得具有清晰边界的拓扑构型,并提升收敛速率.