基于支持向量机协同训练的半监督回归

将支持向量机与半监督学习理论相结合,提出基于支持向量机协同训练的半监督回归模型,使用两个支持向量机回归模型相互影响,协同训练。利用实验数据集进行实验,并与监督支持向量机回归模型、半监督自训练支持向量机回归模型作比较。实验结果表明,基于支持向量机协同训练的半监督回归模型在缺少标记样本的情况下,提高了回归估计的精度。     

基于半监督学习的变种群规模区间适应值交互式遗传算法

为了减轻用户疲劳并增强算法的搜索性能,本文在变种群规模交互式遗传算法的基础上引入协同训练半监督学习方法,提出基于半监督学习的变种群规模区间适应值交互式遗传算法.根据对大规模种群的聚类结果,给出标记样本和未标记样本的获取方法;结合半监督协同学习器逼近误差的改变,提出高可信度未标记样本的选择策略;采用半监督协同学习机制训练两个径向基函数(RBF)神经网络,构造精度高泛化能力强的代理模型;在进化过程中,利用代理模型估计大种群规模进化个体适应值,并根据估计偏差更新代理模型.算法的理论分析及其在服装进化设计系统中的应用结果说明了算法的有效性.     

结合Tri-training半监督学习和凸壳向量的SVM主动学习算法*

为解决监督学习过程中难以获得大量带有类标记样本且样本数据标记代价较高的问题,结合主动学习和半监督学习方法,提出基于Tri-training半监督学习和凸壳向量的SVM主动学习算法.通过计算样本集的壳向量,选择最有可能成为支持向量的壳向量进行标记.为解决以往主动学习算法在选择最富有信息量的样本标记后,不再进一步利用未标记样本的问题,将Tri-training半监督学习方法引入SVM主动学习过程,选择类标记置信度高的未标记样本加入训练样本集,利用未标记样本集中有利于学习器的信息.在UCI数据集上的实验表明,文中算法在标记样本较少时获得分类准确率较高和泛化性能较好的SVM分类器,降低SVM训练学习的样本标记代价.     

基于均衡有偏支持向量机的软件缺陷预测

针对软件缺陷预测中的样本集数量少和分布不对称问题,提出一种基于均衡有偏支持向量机的软件缺陷预测方法。该方法通过标记样本集和未标记样本集进行半监督学习,在少量非对称的标记样本集上,利用有偏支持向量机进行泛化学习。在半监督学习的迭代过程中,采用重采样策略平衡样本集以消除大量不对称的未标记样本集对软件缺陷预测的性能影响。在基准数据集上的实验结果表明,该方法能够有效地对类别不均衡的样本集进行软件缺陷预测。     

面向类别比例偏移的半监督支持向量机方法*

当未标记数据与有标记数据类别比例偏移较大时,半监督支持向量机性能不佳.基于此情况,文中提出面向类别比例偏移的半监督支持向量机方法.首先估计未标记数据类中心,然后对多个类别比例下的类中心进行最坏情况集成,从而提升半监督支持向量机的性能保障.实验表明,文中方法有效提升半监督支持向量机在类别比例偏移时的性能保障.     

基于半监督学习和支持向量机的煤与瓦斯突出预测研究

针对支持向量机要求输入向量为已标记样本,而实际应用中已标记样本很难获取的问题,提出将半监督学习和支持向量机结合的煤与瓦斯突出预测方法;介绍了采用SVM预测煤与瓦斯突出的流程及其输入向量的选择;对半监督学习中的协同训练算法进行了改进:在同一属性集上训练2个不同分类器SVM和KNN,将2个分类器标记一致的样本加入训练集,从而充分利用未标记样本不断补充信息,更新训练集标记样本,达到强化训练集的目的。测试结果表明,改进后的算法比单独的支持向量机预测方法准确率更高。     

基于SVM-KNN的半监督托攻击检测方法

针对支持向量机方法在标记用户数据不充分的情况下无法有效实现托攻击检测的不足,提出一种基于SVM-KNN的半监督托攻击检测方法。根据少量标记用户数据训练一个初始SVM分类器,利用初始SVM对大量未标记用户数据进行分类,挑选出分类边界附近有可能成为支持向量的样本点,利用KNN分类器优化边界向量的标记质量,再将重新标注过的边界向量融入训练集,迭代训练逐步改善SVM的分类边界,最终获得系统决策函数。实验结果表明在标记用户数据较少的情况下,方法能有效提高托攻击的检测精度和效率,具有较强的推广能力。     

基于聚类标签均值的半监督支持向量机

针对标签均值半监督支持向量机在图像分类中随机选取无标记样本会导致分类正确率不高,以及算法的稳定性较低的问题,提出了基于聚类标签均值的半监督支持向量机算法。该算法修改了原算法对于无标记样本的惩罚项,对选取的无标记样本聚类,使用聚类标签均值替换标签均值。实验结果表明,使用聚类标签均值训练的分类器大大减少了背景与目标的错分情况,提高了分类的正确率以及算法的稳定性,适合用于图像分类。     

基于支持向量机的备件需求预测研究

针对传统以统计学为基础的预测方法难以解决小样本预测精度不高的实际问题,将支持向量机回归原理应用到备件需求预测领域,构建基于支持向机备件需求预测模型,以及需求预测结果准确率的评价指标。以实际数据为例,分别运用了指数平滑法、网格搜索法优化参数的支持向量机和遗传算法优化参数的支持向量机进对重点备件的需求量进行预测,验证了遗传算法优化的支持向量机预测性能的先进性。结果证明将支持向量机理论应用到备件保障领域具有重要的实用价值。     

一种基于聚类核的半监督支持向量机分类方法

为了在标记样本数目有限时尽可能地提高支持向量机的分类精度,提出了一种基于聚类核的半监督支持向量机分类方法。该算法依据聚类假设,即属于同一类的样本点在聚类中被分为同一类的可能性较大的原则去对核函数进行构造。采用K-均值聚类算法对已有的标记样本和所有的无标记样本进行多次聚类,根据最终的聚类结果去构造聚类核函数,从而更好地反映样本间的相似程度,然后将其用于支持向量机的训练和分类。理论分析和计算机仿真结果表明,该方法充分利用了无标记样本信息,提高了支持向量机的分类精度。     

基于个体适应值灰模型的交互式遗传算法

为将交互式遗传算法应用于复杂的优化问题中,提出一种基于进化个体适应值灰模型预测的交互式遗传算法,为每代适应值序列建立灰模型,以衡量个体适应值评价的不确定性,通过对灰模型的灰预测,提取进化个体评价的可信度,在此基础上,给出进化个体适应值修正公式,将该算法应用于服装进化设计系统中。实验结果表明,该算法在每代都能获取更多的满意解。     

遗传优化核极限学习机的数据分类算法

为了提高核极限学习机(KELM)数据分类的精度,提出了一种结合K折交叉验证(K-CV)与遗传算法(GA)的KELM分类器参数优化方法(GA-KELM),将CV训练所得多个模型的平均精度作为GA的适应度评价函数,为KELM的参数优化提供评价标准,用获得GA优化最优参数的KELM算法进行数据分类.利用UCI中数据集进行仿真,实验结果表明:所提方法在整体性能上优于GA结合支持向量机法(GA-SVM)和GA结合反向传播(GA-BP)算法,具有更高的分类精度.     

案例系统特征权值优化算法的仿真研究

研究案例系统特征权值优化问题,传统特征权值确定方法过分依赖主观判断和经验,而单一遗传算法或禁忌算法存在各自的不足,因此案例分类精度低。为了提高案例分类精度,提出一种遗传算法和禁忌算法相融合的案例系统特征权值优化方法。利用遗传算法全局搜索能力、并行性和禁忌算法局部搜索和记忆能力,有效地解决了案例系统特征权值优化问题。仿真结果表明,混合方法利用了遗传算法和禁忌算法的优点,很好地优化了案例系统特征权值,从而加快案例系统检索速度,提高了案例分类精度。     

混合算法求解多目标平衡旅行商问题

平衡旅行商问题(balanced traveling salesman problem, BTSP)是旅行商问题(traveling salesman problem, TSP)的变化模型,是另一种组合优化问题,可在汽轮机(gas turbine engines, GTE)等的优化问题中得到应用,但BTSP模型只能对含单个旅行商一个任务的优化问题建模,不能同时对含多个旅行商多任务的问题进行建模和优化.基于此,首次提出了一种多目标平衡旅行商问题(multi-objective balanced traveling salesman problem, MBTSP)模型,可建模含多个旅行商多任务的优化问题,具体可应用在含多个目标或个体的实际问题,例如含多个GTE的优化.相关文献的研究已证实,伊藤算法和遗传算法(genetic algorithm, GA)在求解组合优化问题中具有较好的性能,因此,应用混合伊藤算法(hybrid ITO algorithm, HITO)和混合遗传算法来求解MBTSP问题.HITO通过蚁群算法(ant colony optimization, ACO)来产生基于图的概率生成模型,再用伊藤算法的漂移和波动算子对该图模型进行更新,从而得到MBTSP的最优解.对于混合遗传算法,第一个用贪心法对遗传算法进行改进,命名为贪心法遗传算法(genetic algorithm with greedy initialization, GAG),第二个用爬山算法优化遗传算法,称之为爬山法遗传算法(genetic algorithm by hill-climbing, GAHC),最后一个为模拟退火遗传算法(genetic algorithm with simulated annealing, GASA).为了有效验证该算法,使用小尺度到大尺度的不同规模MBTSP问题的数据进行实验,结果表明：混合算法在求解MBTSP问题是有效的,并表现出不同的特点.     

基于随机森林和遗传算法的Ceph参数自动调优

Ceph系统性能受Ceph配置参数的显著影响,在Ceph集群的配置优化中,配置参数种类繁多、含义复杂,导致难以实现快速准确寻优。针对以上问题,提出一种基于随机森林（RF）和遗传算法（GA）的参数调优方法,用于自动调整Ceph参数配置以优化Ceph系统性能。该方法使用RF算法为Ceph系统构建性能预测模型,并将预测模型的输出作为GA的输入,通过GA对参数配置方案进行自动迭代优化。仿真结果表明,调优后的参数配置较默认的参数配置相比,使Ceph文件系统的读写性能提高了约1.4倍,并且寻优耗时远低于黑盒参数调优方法。     

Solution searching for multivariable optimization problems by a momentum genetic algorithm

Genetic algorithms (GAs) have emerged as powerful solution searching mechanisms, especially for nonlinear and multivariable optimization problems. Generally, it is time-consuming for GAs to find the solutions, and sometimes they cannot find the global optima. In order to improve their search performance, we propose a fast GA algorithm called momentum GA, which employs momentum offspring (MOS) and constant range mutation (CRM). MOS, which generates offspring based on the best individuals of current and past generations, is considered to have the effect of fast searching for the optimum solutions. CRM is considered to have the ability to avoid the production of ineffective individuals and maintain the diversity of the population. In order to verify the performance of our proposed method, a comparison between momentum GA and the conventional mean will be implemented by utilizing optimization problems of two multivariable functions and neural network training problems with different activation functions. Simulations show that the proposed method has good performance regardless of the small values of the population size and generation number in the GA. This work was presented in part at the 12th International Symposium on Artificial Life and Robotics, Oita, Japan, January 25–27, 2007     

改进PSO的SVM回归模型及在气温预测中的应用

兰州市气温是一个非平稳序列,具有典型噪声大、不稳定的特征,气温变化越大,越不稳定.为了能够提高支持向量机在气温预测中的预测精度、强化泛化能力和降低参数选择的灵敏度.本文提出了改进的粒子群算法(improved particle swarm optimization, IPSO)优化支持向量机(support vector machine, SVM)的气温预测模型.首先在粒子群算法(particle swarm optimization, PSO)中引入了自适应惯性权重以提高PSO算法的全局寻优能力和局部开发能力,其次利用改进的IPSO算法优化SVM的惩罚因子和核函数参数,将优化后的模型(IPSO-SVM)应用于气温预测中.以兰州地面观测站点实际数据作为样本数据,运用Matlab实验工具进行训练和预测,实验结果表明,本文IPSO-SVM模型相比于BP, SVM, GRID-SVM, GWO-SVM, ABC-SVM, ACO-SVM模型具有更强的泛化能力,更好的拟合度,可以更加准确地预测气温的变化,进一步验证了该模型在气温预测方面的可行性.     

Network-aware virtual machine migration in an overcommitted cloud

Virtualization, which acts as the underlying technology for cloud computing, enables large amounts of third-party applications to be packed into virtual machines (VMs). VM migration enables servers to be reconsolidated or reshuffled to reduce the operational costs of data centers. The network traffic costs for VM migration currently attract limited attention.However, traffic and bandwidth demands among VMs in a data center account for considerable total traffic. VM migration also causes additional data transfer overhead, which would also increase the network cost of the data center.This study considers a network-aware VM migration (NetVMM) problem in an overcommitted cloud and formulates it into a non-deterministic polynomial time-complete problem. This study aims to minimize network traffic costs by considering the inherent dependencies among VMs that comprise a multi-tier application and the underlying topology of physical machines and to ensure a good trade-off between network communication and VM migration costs.The mechanism that the swarm intelligence algorithm aims to find is an approximate optimal solution through repeated iterations to make it a good solution for the VM migration problem. In this study, genetic algorithm (GA) and artificial bee colony (ABC) are adopted and changed to suit the VM migration problem to minimize the network cost. Experimental results show that GA has low network costs when VM instances are small. However, when the problem size increases, ABC is advantageous to GA. The running time of ABC is also nearly half than that of GA. To the best of our knowledge, we are the first to use ABC to solve the NetVMM problem.     

改进的蚁群遗传优化算法及其应用

针对当前移动机器人的一些路径规划算法存在的局限性,提出了一种基于改进蚁群优化和遗传优化的融合算法。利用改进的信息素更新技术和路径节点选择技术使算法尽快找到优化路径,来形成融合算法的初始种群,机器人每前进一步,蚂蚁就对局部路径重新搜索,并处理随机出现的障碍物;然后利用遗传算法(GA)对种群个体进行全局优化,从而能使机器人沿一条全局优化的路径到达终点。仿真结果表明了该融合算法的可行性和有效性。     

改进的径向基函数网络的研究及应用

针对径向基函数网络和传统遗传算法的一些不足,提出引入一种自适应机制的浮点数编码的遗传算法,并将其与梯度下降法混合交互运算,作为径向基函数网络的学习算法,形成了基于改进遗传算法的径向基函数网络,它克服了径向基函数网络的学习算法上的缺陷。采用改进的遗传算法,无需计算梯度等,限制很少,还可用模型的预测性能作为优化目标。同时,也解决了单独利用遗传算法往往只能在短时间内寻找到接近全局最优解的近似解这一问题。最后将该算法应用到某地区电力负荷预测取得理想效果。