在线KPLS建模方法及在磨机负荷参数集成建模中的应用

针对过程非线性、基于历史数据构建的离线模型泛化性差以及基于滑动窗口 和每样本递推更新的在线建模方法难以均衡建模精度和建模速度等问题, 提出了一种在线 核偏最小二乘(On-line kernel partial least squares, OLKPLS)建模方法. 该方法依据新样本与建模样本间的近似线性依靠(Approximate linear dependence, ALD)值和代表工业过程特性漂移幅度的 阈值, 选择有价值样本更新KPLS模型, 并采用合成数据和Benchmark平台数据对该方法进 行了仿真验证. 针对基于离线历史数据建立的融合多传感器信息的磨机负荷参数集成模型难以适应磨 矿过程时变特性的问题, 提出了基于OLKPLS和在线自适应加权融合算法的在线集成建模方 法, 并通过实验球磨机的实际运行数据仿真验证了方法的有效性.     

基于样本重构的神经网络集成学习方法

在回顾以往神经网络集成的研究成果基础上,提出一种新的负相关学习方法,该方法易于执行,计算量小,有效的消除了学习中的复合线性问题,减小了集成误差,最后用测试用例对该方法进行了考察,证明该方法可以有效的降低集成预测误差,得到较为理想的集成效果。     

基于多视图半监督集成学习的人体动作识别算法

移动设备上难以获取大量标签样本,而训练不足导致分类模型在人体动作识别上表现欠佳.针对这一问题,提出一种基于多视图半监督集成学习的人体动作识别算法.首先,利用两种内置传感器收集的数据构建两个特征视图,将两个视图和两种基分类器进行组合构建协同学习框架;然后,根据多分类任务重新定义置信度,结合主动学习思想在迭代过程中控制预测...     

一种改进的少样本农作物目标识别算法研究

为解决在农田无人巡检过程中农作物目标智能识别的问题,将Cycle-GAN网络与Faster RCNN网络相结合构成了一种新的能支持少样本学习的网络模型,其中Cycle-GAN网络被用于提供数据增强。文中主要阐述了该网络的结构,并且对玉米、花生与豆子三种作物的种植地在不同的天气条件下进行了测试,对不同农作物的最优和最差识别率分别是96.53%和96.25%。实验证明,通过两者的结合能够提供更好更快的农作物识别和检测,新的少样本农作物目标识别模型具有较好的鲁棒性。     

基于多特征融合的小样本视频行为识别算法

现有基于小样本学习的视频行为识别方法,在解决小样本学习中信息量稀缺问题时存在信息重复度高以及类间相似性大等不足,而且鲜有关注小样本学习中的域偏移与枢纽点问题,从而导致动作类表达能力弱和行为识别中错误分类的问题,此外,复杂的网络结构导致参数量与计算量成倍增加.针对以上问题,本文提出一种基于多特征融合的小样本视频行为识别算法,具体来说,该方法提出深度特征与流形特征的融合策略.首先,针对特征形式之一的流形特征,提出使用表征传播对流形结构进行平滑操作,更好地缓解了小样本学习中的域偏移与枢纽点问题.其次,通过同时使用对视频特征表达能力不同的深度特征与流形特征,获得更多的样本有效信息,进而缓解小样本学习中样本稀缺的问题.最后,为减小模型的参数量与计算量,选择基于2D方法构建模型.在HMDB51、UCF101以及Kinetics三个数据集上进行实验,结果表明,本文方法在“5-way 1-shot”任务下表现突出,识别率优于现有的小样本视频行为识别方法,在HMDB51上提高了8.5%,在UCF101上提高了9.5%,在Kinetics上提高了1.0%.     

基于多任务学习的有限样本多视角三维形状识别算法

随着三维扫描技术的快速发展,三维形状分析得到了学术界的广泛关注;尤其是深度学习在计算机视觉上取得的显著成功,使得基于多视图的三维形状识别方法成为了目前三维模型识别的主流方式。已有研究表明,三维数据集的数量对于最终的分类精度是一个非常重要的影响条件。然而,由于专业三维扫描设备的限制,三维形状数据难以采集。实际上,现有的公共基准三维数据集的规模远远小于二维数据集,三维形状分析的发展因此受到阻碍。为了解决这一问题,文中主要研究在极小数据样本情况下,三维形状识别问题的优化解策略。受多任务学习的启发,搭建了多分支的网络结构,并引入基于度量学习的辅助比较模块,用于挖掘类内和类间的相似性和差异性信息。网络模型包括主支路与辅助支路,分别使用不同的损失函数对应不同的训练任务,并使用权值超参数平衡多项损失。主支路获得预测分类,使用交叉熵损失函数进行更新;辅助支路得到不同样本间的相似性得分,使用均方差损失函数进行更新。为保证特征向量被投影到同一个空间中,主、辅助支路共享相同的特征提取模块,在训练阶段共同更新参数,在测试阶段仅使用主支路获得的分类结果。在两个公开的三维形状基准数据集上的大量实验结果表明,所提网络结构与训练策略相比传统方法,在少样本的情况下可以显著提高特征模块对不同类别的区分能力,获得更优的识别结果。     

基于神经网络模型的最小预测误差非线性自适应控制器

主要研究基于神经网络模型的最小预测误差非线性自适应控制算法.利用神经网络激励函数的分段局部线性近似,将基于神经网络的非线性系统一步前向预测控制转化为一系列局部的线性预测控制问题.利用线性系统参数估计方法获得神经网络预测模型的参数估计.在此基础上利用并联线性系统的预测控制方法设计全局收敛的非线性系统预测控制器.     

基于分层采样的集成k近邻说话人识别算法

k近邻学习器将复杂的全局非线性关系映射为大量局部线性关系的组合,具有易解释、易扩展、抗噪能力强等优点,被广泛应用于说话人识别领域并取得了良好的效果。而集成学习算法因其强泛化能力和易于应用的特性得到了许多领域研究者的关注,但是研究表明通过重采样产生训练集差异的集成算法并不能有效地提高k近邻学习器系统的泛化能力。提出了一种新的BagWithProb采样算法产生训练集。实验表明,该算法可以有效地扩展训练集差异,提高集成系统性能。此外,还提出了基于环域分层采样的算法以加快k近邻识别算法在识别阶段的运算速度。     

基于样本权重更新的不平衡数据集成学习方法

不平衡数据的问题普遍存在于大数据、机器学习的各个应用领域,如医疗诊断、异常检测等。研究者提出或采用了多种方法来进行不平衡数据的学习,比如数据采样(如SMOTE)或者集成学习(如EasyEnsemble)的方法。数据采样中的过采样方法可能存在过拟合或边界样本分类准确率较低等问题,而欠采样方法则可能导致欠拟合。文中将SMOTE,Bagging,Boosting等算法的基本思想进行融合,提出了Rotation SMOTE算法。该算法通过在Boosting过程中根据基分类器的预测结果对少数类样本进行SMOTE来间接地增大少数类样本的权重,并借鉴Focal Loss的基本思想提出了根据基分类器预测结果直接优化AdaBoost权重更新策略的FocalBoost算法。对不同应用领域共11个不平衡数据集的多个评价指标进行实验测试,结果表明,相比于其他不平衡数据算法(包括SMOTEBoost算法和EasyEnsemble算法),Rotation SMOTE算法在所有数据集上具有最高的召回率,并且在大多数数据集上具有最佳或者次佳的G-mean以及F1Score;而相比于原始的AdaBoost,FocalBoost则在其中9个不平衡数据集上都获得了更优的性能指标。     

基于深度神经网络的行为识别算法

在计算机视觉领域中,行为识别是重点研究问题.而随着大规模行为数据的收集以及计算机水平的提升,深度神经网络得到了长足发展,计算机视觉性能超越了以往,但是当前方法也存在一些局限.本文就深度神经网络中的行为识别算法展开研究,首先阐述了行为识别现状,其次分布分析了RGB视频行为识别和人体骨架3D行为识别.     

基于K均值集成和SVM的P2P流量识别研究

提出基于K均值集成和支持向量机相结合的P2P流量识别模型,以保证流量识别精度和稳定性,克服聚类识别模型中参数值难以确定、复杂性高等缺点。对少量标签样本采用随机簇中心的K均值算法训练基聚类器,按最大后验概率分配簇标签,无标签样本与其最近簇标签一致;按投票机制集成无标签样本标签信息,并结合原标签样本训练支持向量机识别模型。该模型利用了集成学习稳定性和SVM在小样本集上的良好泛化性能。理论分析和仿真实验结果证明了方案的可行性。     

基于集成学习与遗传算法的网络书写纹识别研究

N-gram字符是网络书写纹识别最有效的特征类型之一。针对其特征维数高、冗余特征多且无关特征少等特点,提出一种基于特征空间划分来构造集成学习分类器的网络书写纹识别方法。该方法首先根据一定的划分粒度,将初始特征集划分为等维度、无交又的特征子集,然后基于每一个特征子集训练生成对应的基分类器(多元朴素贝叶斯),最后采用算术与几何平均相结合的融合策略完成集成学习分类器的构造。特征空间的划分(即特征子集的选择)采用遗传算法进行优化。实验在一个真实数据集上开展,其结果表明该方法有效地提高了网络书写纹的识别性能。     

基于决策树集成的P2P流量识别研究

为提高分类模型的稳定性,提出基于决策树分类器集成方案用以识别流量。模型首先利用特征选择方法(FCBF)提取最优分类特征信息,按Bagging随机抽样原理形成5个子分类器,依少数服从多数原则生成决策模型。利用两种实验方案在公开数据集上进行测试,结果表明提出的方案比贝叶斯、基于核密度估计贝叶斯方案具有更好的稳定性、模型分类准确率和P2P流量识别准确率,并对此现象进行了解释。     

基于KCF的样本更新与目标重定位方法

为了解决核相关滤波（Kernelized Correlation Filter, KCF）算法由于测量误差的累积导致目标跟踪失败的问题,提出一种样本质量评价机制,筛选样本对分类器进行更新操作。为了解决目标遮挡后重定位的问题,使用Kalman滤波算法估计目标位置,然后评价其估计结果。为了解决目标位置难以预测的问题,使用ORB特征点匹配算法完成目标的重新定位。在TB数据集中选取部分序列进行测试。实验结果表明,目标出现短时间、长时间遮挡时,改进算法在精确度和成功率上都有一定程度的提高。     

基于半监督回归的选择性集成算法

为了提高小数据量的有标记样本问题中学习器的性能,结合半监督学习和选择性集成学习,提出了基于半监督回归的选择性集成算法SSRES。算法基于半监督学习的基本思想,同时使用有标记样本和未标记样本训练学习器从而减少对有标记样本的需求,使用选择性集成算法GRES对不同学习器进行适当的选择,并将选择的结果结合提高学习器的泛化能力。实验结果表明,在小数据量的有标记样本问题中,该算法能够有效地提高学习器的性能。     

基于Ensemble的增量分类方法

针对在维护数据挖掘模型过程中须反复计算数据集、效率较低的问题,基于Ensembles学习思想,研究增量数据集的弱分类器生成方法,根据增量数据集分类器之间的相异度提出新的组合分类算法,分析组合分类器的出错率。实验结果表明,该分类方法是有效的。     

基于自适应模糊网络的在线辨识

研究了基于一阶Sugeno的自适应网络模糊推理系统（ANFIS）进行在线辨识的方法。给出了该自适应网络的结构,在此基础上给出了网络权值的修正算法,即综合最陡下降法和最小二乘法得到的一种混合学习算法。对一个非线性模型进行了数字仿真,得到的在线辨识的结果优于采用反传算法的普通神经网络辨识方法。由此证明,一阶Sugeno模糊推理模型和混合学习算法的采用,使得该辨识方法具备网络结构简单、收敛速度快的优势,便于工程实现。     

基于预测编码的样本自适应行动策略规划

军事行动、反恐突击等强对抗场景中,实时信息的碎片化、不确定性对制定具有博弈优势的弹性行动方案提出了更高的要求,研究具有自学习能力的智能行动策略规划方法已成为编队级强对抗任务的核心问题.针对复杂场景下行动策略规划状态表征困难、数据效率低下等问题,提出了基于预测编码的样本自适应行动策略规划方法.利用自编码模型压缩表示任务的...     

基于正则化互信息和差异度的集成特征选择

如何构造差异性大的基分类器是集成学习研究的重点,为此提出迭代循环选择法:以最大化正则互信息为准则提取最优特征子集,进而基于此训练得到基分类器;同时以错分样本个数作为差异性度量准则来评价所得基分类器的性能,若满足条件则停止,反之则循环迭代直至结束.最后用加权投票法融合所选基分类器的识别结果.通过仿真实验验证算法的有效性,以支持向量机为分类器,在公共数据集UCI上进行实验,并与单SVM及经典的Bagging集成算法和特征Bagging集成算法进行对比.实验结果显示,该方法可获得较高的分类精度.