线性判别分析特征提取稀疏表示人脸识别方法

针对稀疏表示分类(SRC)算法采取随机脸法提取的数据特征判别力较弱问题,提出一种线性判别分析特征提取稀疏表示人脸识别方法.该方法首先采用线性判别分析算法求解最优判别投影子空间,然后把训练样本投影到该子空间以提取相应的数据特征,并用训练样本的数据特征做字典来表示测试样本数据特征.更进一步来说就是,通过提取出测试样本稀疏特征的向量,和测试样本的数据特征进行比对找出其联系和差别并表示出比对后的残差.最后根据构造的残差找出样本的类别来实现其识别目的.通过在Extend Yale B和CMU PIE人脸数据库上一系列的测试,证明该方法具有很好的识别效果.     

自适应特征选择加权k子凸包分类

针对问题维数的增加以及不同特征对分类的作用往往不一样,导致k子凸包分类性能降低等问题,设计自适应特征选择加权k子凸包分类方法。根据传统凸包距离存在的不足引入加权k子凸包距离,在测试样本的k邻域内引入距离度量学习技术和正则化技术进行自适应的特征选择,并将自适应特征选择无缝嵌入加权k子凸包优化模型中,这样就能为不同的测试样本在不同的类别中学习自适应特征空间,得到有效的加权k子凸包距离计算方法。试验结果表明,该方法不仅能够进行降维,而且具有明显的分类性能优势。     

基于非负稀疏嵌入投影的高光谱数据降维方法

针对因数据冗余及Hughes现象带来的高光谱数据分类精度降低问题,提出一种基于样本依赖排斥图的非负稀疏嵌入投影降维（NSEPSRG）算法.首先,利用非负稀疏表示方法,得到样本的非负稀疏重构权重矩阵.然后,利用样本的先验类别信息,构建样本依赖排斥图,有助于避免误分类和提高分类精度.最后,为保持每个样本间的稀疏结构关系和各样本的内在流形结构不变,根据非负稀疏重构权重矩阵和样本依赖排斥图的邻接矩阵,将样本嵌入投影到低维子空间,有助于从高维高光谱数据中提取信息量大的光谱波段,从而使得到的分类图像更清晰、平滑.AVIRIS高光谱数据上的实验结果表明,运用支持向量机对经过NSEPSRG降维处理后的高光谱数据进行分类,分类整体精度和Kappa系数分别达到了87.87%和0.856 6.     

典型相关分析的局部保持投影算法

针对传统子空间线性分析方法无法准确地描述样本具有的流形结构的问题,依据典型相关分析算法和局部保持投影算法的理论,将两种算法结合起来,提出了限制类别的典型相关分析的局部保持投影算法,该算法通过引入类信息,在区分了样本类信息的基础上,又保持样本类内的局部信息结构,而且还使两组样本间达到最大相关化以及各个特征投影之间具有不相关性,极大地提高了算法的识别率.该算法分别在YALE人脸库和AR人脸库上进行实验,识别率最高可达98％.     

基于类别保留投影的基因表达数据降维方法

针对基因表达数据的高维小样本问题,提出一种新的线性降维方法.该方法采用保局投影,结合样本的类别信息,将基因表达数据投影到特征子空间.与主分量分析方法寻找最大方差方向不同,类别保留投影方法旨在寻找能够反映样本类别结构的特征子空间.采用该方法进行数据降维的同时能使样本按照类别属性进行聚类.对真实的基因表达数据进行了降维可视化和k均值聚类分析,并与主分量分析方法进行了实验比较,结果表明,类别保留投影方法在实现降维的同时能更好地识别样本的类别特征,从而可视化效果相比主分量分析要好得多,且能得到较好的聚类效果.     

应用监督局部线性嵌入算法的科技项目质量评价

针对科技项目管理指标的数据维度高且相互影响而呈现出的复杂非线性关系为准确评价和科学管理带来挑战的现状,同时考虑到传统数据降维算法大多对非线性数据映射效果较差,采用监督局部线性嵌入算法,通过数据样本类别信息修改距离公式进行特征维数计算以获得科技项目的真实低维数据。实验结果表明:与传统算法相比,该算法预处理的样本在分类方面具有较高的准确率。     

度量学习改进语义自编码零样本分类算法

为改善零样本图像分类中相似度度量方法的鲁棒性,引入了一种用于零样本分类的度量学习方法.该方法由自编码构成,能在特征对齐后的语义嵌入空间中学习到最优的度量函数,用于计算测试样本特征和类标签的语义特征的相似度;然后利用近邻思想预测类别标签,进而避免产生不合适距离函数导致的分类错误.实验结果表明,与传统距离度量的算法相比,所提出的方法降低了识别错误率,在公开数据集AWA、CUB和ImNet-2上的分类准确率分别达到94.7%、63.7%和28.59%;同时表明了语义-视觉的映射方向比相反方向的识别准确率高出2.5%~10.1%.     

基于DNA微阵列数据的特征子空间集成分类

针对DNA微阵列数据应用于临床诊断时分类准确率过低的问题,结合其高维小样本的特点提出了一种特征子空间集成分类方法。该方法首先通过层次聚类与信噪比特征选择策略将原始训练数据集映射到一个非冗余的特征基因空间,然后随机抽取一些特征子空间构成训练子集并应用支持向量机训练基分类器,最后采用多数投票的方式决定测试样本的类属。最后在4个标准的微阵列数据集上与其他方法进行了对比实验,结果证明了本文方法的有效性。     

基于流形学习的图像检索算法研究

流形学习以发现非线性高维数据的本质维数为目标,使其更适合数据分析和高维数据的降维。图像检索中“语义鸿沟”问题指的是高维数据空间与低维的语义子空间之间的鸿沟,虽然利用相关反馈机制可以缩小这种鸿沟提高准确率,但是因为反馈图像数目较少,图像特征维数相对较高,会容易产生维数灾难问题。流形学习的引入为解决这一难题带来了新的希望,因为通过流形学习的方法学习高维图像特征数据的本征维数用于图像检索,大大提高了检索性能。基于流形学习的图像检索算法都是半监督的流形学习,充分利用了反馈信息,学习查询图像的语义子空间,有效的实现了高维数据的降维。     

一种基于流形学习的PCA-SLPP特征空间降维方法

针对复杂模式分类中特征空间维数过高问题,提出一种基于流形学习的PCA-SLPP降维方法。先对初始特征量集中样本数据进行主成分分析(PCA),使特征量在全局空间中相互独立;再采用改进的有监督局部保留投影(SLPP)法对主成分分析后的数据进行映射,使数据在特征空间中的局部流行结构得以保持的同时扩大样本数据的可区分性;最终依据累计贡献率与特征值的大小实现特征空间的降维。采用降维后的数据集训练支持向量机分类器,对具有复杂结构的煤岩惰质组显微组分进行分类。实验结果表明:PCA可以有效去除特征数据间的信息冗余,有助于分类正确率的提高;PCA的维数一定且总维数较高时,采用SLPP继续降维对分类正确率影响不大,但当总维数降到2及以下时,分类正确率迅速下降;在特征空间总维数降到初始维数的1/2及以下时,本文方法的分类正确率明显高于其他算法;本文方法在耗时上与SLPP相近。     

高维小采样数据集的贝叶斯网络结构学习算法

现有的贝叶斯网络结构学习算法都需要对高维数据项集进行大量地计算,极大地影响了算法的可靠性、健壮性以及精确度,同时高维计算也耗费了大量时间,为了解决这个问题,提出基于特征选择技术贪婪贝叶斯网络结构学习算法。理论分析表明,本算法在效率上优于现有算法,实验结果也表明,对于高维相对小采样数据集,本算法在精度上也优于大多数算法。     

Linear manifold clustering for high dimensional data based on line manifold searching and fusing

High dimensional data clustering, with the inherent sparsity of data and the existence of noise, is a serious challenge for clustering algorithms. A new linear manifold clustering method was proposed to address this problem. The basic idea was to search the line manifold clusters hidden in datasets, and then fuse some of the line manifold clusters to construct higher dimensional manifold clusters. The orthogonal distance and the tangent distance were considered together as the linear manifold distance metrics. Spatial neighbor information was fully utilized to construct the original line manifold and optimize line manifolds during the line manifold cluster searching procedure. The results obtained from experiments over real and synthetic data sets demonstrate the superiority of the proposed method over some competing clustering methods in terms of accuracy and computation time. The proposed method is able to obtain high clustering accuracy for various data sets with different sizes, manifold dimensions and noise ratios, which confirms the anti-noise capability and high clustering accuracy of the proposed method for high dimensional data.     

引入新特征的短期电力负荷预测

为了提高短期负荷预测的精度,综合分析了气象、日期等因素,并计算各特征与被预测负荷之间的相关系数,根据各特征与负荷之间的相关性,提出了一种将预测日前几天的负荷作为新特征进行负荷预测的方法。为了验证算法的普适性,采用支持向量回归、随机森林和梯度提升决策树3种机器学习算法,在2016-2018年我国北方某地的真实电力负荷和欧洲智能技术网络（EUNITE）竞赛负荷预测样本数据两个数据集上进行验证,并将预测结果与采用传统特征的算法进行了对比。预测结果显示,相较于传统方法,采用新特征后的短期负荷预测具有更高的预测精度。     

联合低秩表示与图嵌入的无监督特征选择

大数据应用带来高维数据急剧增加,数据降维已成为重要问题.特征选择降维方法已广泛应用于模式识别领域,近年来提出了许多基于流形学习的特征选择方法,然而这类方法往往容易受到各种噪声影响.对此,本文提出一种联合低秩表示和图嵌入的高效无监督特征选择方法（JLRRGE）.通过低秩表示寻找数据在低秩子空间下的表示,降低噪声的影响从而提高算法的鲁棒性,并通过自适应图嵌入方法,使选择特征保持原有的局部关系.实验结果表明,本文提出算法的分类准确率优于其他对比算法.     

Multi-label dimensionality reduction based on semi-supervised discriminant analysis

Multi-label data with high dimensionality often occurs, which will produce large time and energy overheads when directly used in classification tasks. To solve this problem, a novel algorithm called multi-label dimensionality reduction via semi-supervised discriminant analysis (MSDA) was proposed. It was expected to derive an objective discriminant function as smooth as possible on the data manifold by multi-label learning and semi-supervised learning. By virtue of the latent imformation, which was provided by the graph weighted matrix of sample attributes and the similarity correlation matrix of partial sample labels, MSDA readily made the separability between different classes achieve maximization and estimated the intrinsic geometric structure in the lower manifold space by employing unlabeled data. Extensive experimental results on several real multi-label datasets show that after dimensionality reduction using MSDA, the average classification accuracy is about 9.71% higher than that of other algorithms, and several evaluation metrices like Hamming-loss are also superior to those of other dimensionality reduction methods.     

集成学习算法在实体关系抽取中的应用

针对基于特征向量的实体关系抽取方法中分类算法分类精度的不足,提出了基于集成学习算法的实体关系抽取方法.该方法将实体特征组合并转化为特征向量,使用集成学习中的ADABoost.MH算法来构造实体关系抽取的分类器,弱分类器采用决策树进行构造,通过提高分类效果好的分类器的权重和分类错误样本权重的方式来提高分类的精度,从而实现实体关系类别的识别.该方法在对《人民日报》语料库的测试中,得到了比较好的效果.     

一种选择特征的稀疏在线学习算法

为了有效处理海量、高维、稀疏的大数据,提高对数据的分类效率,提出一种基于L₁准则稀疏性原理的在线学习算法(a sparse online learning algorithm for selection feature, SFSOL)。运用在线机器学习算法框架,对高维流式数据的特征进行新颖的“取整”处理,加大数据特征稀疏性的同时增强了阀值范围内部分特征的值,极大地提高了对稀疏数据分类的效果。利用公开的数据集对SFSOL算法的性能进行分析,并将该算法与其它3种稀疏在线学习算法的性能进行比较,试验结果表明提出的SFSOL算法对高维稀疏数据分类的准确性更高。     

SVM核函数对分类精度影响的研究

支持向量机是一种基于统计学习理论的新型机器学习算法,它通过求解最优化问题,在高维空间中寻找最优分类超平面,从而解决复杂数据的分类、回归问题.文中介绍了支持向量机的基本算法原理及其分类方法,重点研究将核函数引入不可分的情形.本文通过改变核函数的参数,采用对比实验来比较分类精度,同时根据Mercer条件形成新的线性组合核函数,最后得出通过改变核函数参数与线性组合核函数的方法可以明显提高分类的精度.     

基于核函数的SOM及在齿轮故障聚类识别中的应用

结合统计学习理论（SLT）和支持向量机（SVM）的原理，在传统的采用欧氏距离作为竞争评价函数的自组织映射（SOM）基础上，提出了一种基于核函数的自组织映射（KSOM）方法，并把它应用于齿轮故障的聚类识别。该方法先把特征空间映射到高维的像空间，使得特征数据在像空间的映像能够较好地分开，然后在特征空间利用核函数来构造像空间中自组织竞争的评价函数以及权值的调整方法，最终在特征空间实现高维像空间中数据的聚类。试验结果表明，应用KSOM方法来聚类识别齿轮的故障，比传统SOM取得的效果更好、更稳定。