基于RBF神经网络的可疑交易监测模型

针对国内外金融领域可疑交易的低检测率问题,通过对RBF（Radial Basis Function）神经网络技术的分析与研究,提出了一种基于APC-III聚类算法和RLS（Recursive Least Square）算法的面向反洗钱的RBF神经网络模型并加以实现。APC-III聚类算法用于确定RBF神经网络隐含层的中心向量,RLS算法用来调整隐含层与输出层之间的连接权值。RBF神经网络与支持向量机（SVM）和孤立点检测相比,有更高的检测率和较低的误检率,因此,提出的模型具有重要的理论和实用价值。     

支持向量机理论与基于规划的神经网络学习算法

近年来支持向量机（SVM）理论得到国外学者高度的重视,普遍认为这是神经网络学习的新研究方向,近来也开始得到国内学者的注意。该文将研究SVM理论与神经网络的规划算法的关系,首先指出,Vapnik的基于SVM的算法与该文作者1994年提出的神经网络的基于规划的算法是等价的,即在样本集是线性可分的情况下,二者求得的均是最大边缘（maximal margin)解。不同的是,前者（通常用拉格郎日乘子法）求解的复杂性将随规模呈指数增长,而后者的复杂性是规模的多项式函数。其次,作者将规划算法化为求一点到某一凸集上的投影,利用这个几何的直观,给出一个构造性的迭代求解算法－－“单纯形迭代算法”。新算法有很强的几何直观性,这个直观性将加深对神经网络（线性可分情况下）学习的理解,并由此导出一个样本集是线性可分的充分必要条件。另外,新算法对知识扩充问题,给出一个非常方便的增量学习算法。最后指出,“将一些必须满足的条件,化成问题的约束条件,将网络的某一性能,作为目标函数,将网络的学习问题化为某种规划问题来求解”的原则,将是研究神经网络学习问题的一个十分有效的办法。     

改进的K均值聚类算法在支持矢量机中的应用

将一种改进的K均值聚类算法应用于支持矢量机（SVM）的训练。基于这一改进的聚类算法,设计了SVM的增量式训练步骤,并给出了在训练过程中删除无用样本的的方法。模式分类的实验结果表明,这种改进的K均值聚类算法在SVM中的应用不仅大幅度地缩短了SVM的训练时间,而且进一步提高了它的分类能力。     

支持向量机的训练算法综述

支持向量机（SVM）是在统计学习理论基础上发展起来的新方法,其训练算法本质上是一个二次规划的求解问题.首先简要概述了SVM的基本原理,然后对SVM训练算法的国内外研究现状进行综述,重点分析SVM的缩减算法和具有线性收敛性质的算法,对这些算法的性能进行比较,并且对SVM的扩展算法也进行简单介绍.最后对该领域存在的问题和发展趋势进行了展望.     

基于改进粒子群算法的支持向量机

对求解含线性约束优化问题的粒子群算法（LPSO）进行了改进,给出了应用其训练支持向量机（SVM）的方法。改进后的算法在基本PSO惯性权重策略的基础上加入了基于种群收敛速度的自适应扰动,能够较好地调整算法的全局与局部搜索能力之间的平衡。对双螺旋问题的分类实验表明本文提出的方法稳定性好,训练出的SVM具有较高的分类正确率。     

基于构造性形态学神经网络的一种提升算法

构造性形态学神经网络算法（CMNN）是一种数学形态学与传统的神经网络模型相结合的一种非线性神经网络,有较强的实用性。其训练算法根据形态学联想记忆而来,在测试过程中采用形态学算子将测试样本归类于训练得到的超盒之中。由于其测试过程无法正确地将落在超盒外的样本进行分类,后有人提出了一种基于模糊格的形态学神经网络（FL-CMNN）,该算法用样本与超盒的隶属度判断提高了原CMNN算法的分类效果,但增加了算法的复杂程度且分类效果不稳定。这里提出一种基于构造性形态学神经网络算法的提升算法（LCMNN）,该算法继承了原有的形态学算子运算速度快的优点且能够将落在超盒之外的样本进行准确地归类。数值实验表明,基于构造性形态学神经网络算法的提升算法（LCMNN）与其他几种算法相比,能够达到最好的分类效果,而且简单易行,计算时间少。     

基于PSO和BP复合算法的模糊神经网络控制器

为了克服单独应用粒子群算法（PSO）或BP算法训练模糊神经网络控制器参数时存在的缺陷,提出了一种训练模糊神经网络参数的PSO＋BP算法。该算法将二者相结合,即在PSO算法中加入一个BP算子,以充分利用PSO算法的全局寻优能力和BP算法的局部搜索能力,从而更有效地提高其收敛速度、训练效率和提高该模糊神经网络控制器的控制效果。最后的仿真实验结果验证了该基于PSO＋BP复合算法的模糊神经网络控制器的有效性和可行性。     

基于支持向量机的变压器故障诊断方法

为了提高变压器故障诊断的准确率,提出了一种支持向量机（SVM）和改进布谷鸟算法（WCS）及最速下降法相结合的电力变压器故障诊断方法.引入一种新的惯性权重,解决布谷鸟算法在迭代后期收敛速度下降的问题.利用最速下降法与改进的布谷鸟算法相结合的算法进行SVM参数的寻优,克服了基本的SVM模型容易陷入局部最优的缺陷,从而得到具有最佳参数的支持向量机分类模型,利用LIBSVM工具箱在MATLAB软件平台上训练支持向量机,用训练良好的支持向量机诊断110kV甘棠变电所#1主变压器故障情况.通过实例验证分析表明,采用该算法可以准确、有效地对变压器进行故障诊断;相较于粒子群算法（PSO）、遗传算法（GA）、网格搜索算法（GS）等算法,该方法具有更高的诊断准确率.     

支持向量机算法用于拮抗药化合物活性的模式识别

试用新近提出的，特别适合于小样本多变量训练集的支持向量机（support vector machine,简称SVM）算法于复杂药物分子设计。对一批26个处理化疗或放疗呕吐拮抗药的候选化合物筛选数据用留一法判别SVM的预报能力。结果表明：与人工神经网络，最近邻法（KNN），Fisher法相比，SVM算法可以提供误报率更低的数学模型。     

基于粒子群算法的RBF网络参数优化算法

针对神经网络的一些缺陷,研究神经网络基于粒子群优化的学习算法,将粒子群优化算法用于RBF神经网络的学习训练。提出了一种基于粒子群优化（PSO）算法的径向基（RBF）网络参数优化算法,首先利用减聚类算法确定网络径向基函数中心的个数,再用PSO算法优化径向基函数的中心及宽度,最后用PSO算法训练隐含层到输出层的网络权值,找到神经网络权值的最优解,以达到优化神经网络学习的目的。最后,通过一个实验与最小二乘法优化的神经网络进行了比较,验证了算法的有效性。     

基于边界向量的支持向量机增量算法

提出了一种新的基于边界向量的增量式支持向量机学习算法。该算法根据支持向量的几何分布特点,采用边界向量预选取方法,从增量样本中选取最有可能成为支持向量的样本形成边界向量集,在其上进行支持向量训练。通过对初始样本是否满足新增样本KKT条件的判断,解决非支持向量向支持向量的转化问题,有效地处理历史数据。针对UCI标准数据集上的仿真实验表明,基于边界向量的增量算法可以有效地减少训练样本数,积累历史信息,具有更高的分类速度和更好的推广能力。     

基于Spark的并行SVM算法研究

随着数据规模的不断增加,支持向量机(SVM)的并行化设计成为数据挖掘领域的一个研究热点。针对SVM算法训练大规模数据时存在寻优速度慢、内存占用大等问题,提出了一种基于Spark平台的并行支持向量机算法(SP-SVM)。该方法通过调整层叠支持向量机(Cascade SVM)的合并策略和训练结构,并利用Spark分布式计算框架实现;其次,进一步分析并行操作算子的性能,优化算法并行化实现方案,有效克服了层叠模型训练效率低的缺点。实验结果表明,新的并行训练方法在损失较小精度的前提下,在一定程度上减少了训练时间,能够很好地提高模型的学习效率。     

基于Relief和BFO的并行支持向量机算法

针对大数据环境下并行支持向量机(SVM)算法存在冗余数据敏感、参数选取困难、并行化效率低等问题,提出了一种基于Relief和BFO算法的并行SVM算法RBFO-PSVM。首先,基于互信息和Relief算法设计了一种特征权值计算策略MI-Relief,剔除数据集中的冗余特征,有效地降低了冗余数据对并行SVM分类的干扰;接着,提出了基于MapReduce的MR-HBFO算法,并行选取SVM的最优参数,提高SVM的参数寻优能力;最后,提出核聚类策略KCS,减小参与并行化训练的数据集规模,并提出改进CSVM反馈机制的交叉融合级联式并行支持向量机CFCPSVM,结合MapReduce编程框架并行训练SVM,提高了并行SVM的并行化效率。实验表明,RBFO-PSVM算法对大型数据集的分类效果更佳,更适用于大数据环境。     

基于混沌灰狼优化算法的SVM分类器研究

支持向量机(SVM)是在分类问题下建立的一个运算小型数据集,可实现非线性高纬度分类,有很好的扩展能力。但是,在传统SVM的训练过程中,SVM运算结果的好坏与参数选择关系密切,而且目前使用的参数选择算法有很多缺陷。因此,针对上述问题,在灰狼算法（GWO）中加入混沌序列,改变狼群初始分布规律,构建混沌灰狼优化算法(CGWO),增强狼群分布均匀性以及狼群查找遍历性,极大提高GWO算法的运算速度和运算准确性,最终更好地优化SVM。使用Mirjalili提供的开源数据与原有数据混合作为向量机的测试集进行实验对比分析,实验结果表明,CGWO算法具有明显的性能提高;用混沌灰狼算法优化的 SVM和灰狼优化算法SVM、人工蜂群SVM、万有引力搜索SVM以及传统算法优化的 SVM相比,其运算准确率更高、误差更低、花费时间更少。     

支持向量机训练算法综述

本文介绍统计学习理论中最年轻的分支——支持向量机的训练算法，主要有三大类：以 SVMlight为代表的分解算法、序贯分类方法和在线训练法，比较了各自的优缺点，并介绍了 其它几种算法及多类分类算法．最后指出了支持向量机具体实现的方向及其在模式识别、数 据挖掘、系统辨识与控制等领域中的应用．     

基于One-class SVM的实时入侵检测系统

将One-class支持向量机和Online训练算法应用于入侵检测研究中，把入侵检测看作是一种单值分类问题，能够在有噪声的数据集中进行训练，降低了对训练集的要求，提高了检测准确性。同时解决了基于SVM的入侵检测系统实时训练的问题，在实际运用中可以实时地添加新的训练样本对新出现的攻击手段进行分类。在KDD CUP’99标准入侵检测数据集上进行实验，系统缩短了训练时间并且获得了较高的检测准确率。     

基于分层并行筛选样本的SVM增量学习算法

在增量学习过程中,随着训练集规模的增大,支持向量机的学习过程需要占用大量内存,寻优速度非常缓慢。在现有的一种支持向量机增量学习算法的基础上,结合并行学习思想,提出了一种分层并行筛选训练样本的支持向量机增量学习算法。理论分析和实验结果表明:与原有的算法相比,新算法能在保证支持向量机的分类能力的前提下显著提高训练速度。     

一种新的基于SVM和主动学习的图像检索方法

在基于内容的图像检索中,支持向量机（SVM）能够很好地解决小样本问题,而主动学习算法则可以根据学习进程主动选择最佳的样本进行学习,大幅度缩短训练时间,提高分类算法效率。为使图像检索更加快速、高效,提出一种新的基于SVM和主动学习的图像检索方法。该方法根据SVM构造分类器,通过“V”型删除法快速缩减样本集,同时通过最优选择法从缩减样本集中选取最优的样本作为训练样本,最终构造出不仅信息度大而且冗余度低的最优训练样本集,从而训练出更好的SVM分类器,得到更高的检索效率。实验结果表明,与传统的SVM主动学习的图像检索方法相比,该方法能够较大幅度提高检索性能。     

基于对偶随机投影的线性核支持向量机

针对大型支持向量机（SVM）经随机投影特征降维后分类精度下降的问题,结合对偶恢复理论,提出了面向大规模分类问题的基于对偶随机投影的线性核支持向量机（drp-LSVM）。首先,分析论证了drp-LSVM相关几何性质,证明了在保持与基于随机投影降维的支持向量机（rp-LSVM）相近几何优势的同时,其划分超平面更接近于用全部数据训练得到的原始分类器。然后,针对提出的drp-LSVM快速求解问题,改进了传统的序列最小优化（SMO）算法,设计了基于改进SMO算法的drp-LSVM分类器。最后实验结果表明,drp-LSVM在继承rp-LSVM优点的同时,减小了分类误差,提高了训练精度,并且各项性能评价更接近于用原始数据训练得到的分类器;设计的基于改进SMO算法的分类器不但可以减少内存消耗,同时可以拥有较高的训练精度。     

超球体多类支持向量机理论

目前的多类分类器大多是经二分类器组合而成的,存在训练速度较慢的问题,在分类类别多的时候,会遇到很大困难,超球体多类支持向量机将超球体单类支持向量机扩展到多类问题,由于每类样本只参与一个超球体支持向量机的训练.因此,这是一种直接多类分类器,训练效率明显提高.为了有效训练超球体多类支持向量机,利用SMO算法思想,提出了超球体支持向量机的快速训练算法.同时对超球体多类支持向量机的推广能力进行了理论上的估计.数值实验表明,在分类类别较多的情况,这种分类器的训练速度有很大提高,非常适合解决类别数较多的分类问题.超球体多类支持向量机为研究快速直接多类分类器提供了新的思路.