特征降维技术的研究与进展

数据特征的质量会直接影响模型的准确度。在模式识别领域,特征降维技术一直受到研究者们的关注。随着大数据时代的到来,数据量巨增,数据维度不断升高。在处理高维数据时,传统的数据挖掘方法的性能降低甚至失效。实践表明,在数据分析前先对其特征进行降维是避免“维数灾难”的有效手段。降维技术在各领域被广泛应用,文中详细介绍了特征提取和特征选择两类不同的降维方法,并对其特点进行了比较。通过子集搜索策略和评价准则两个关键过程对特征选择中最具代表性的算法进行了总结和分析。最后从实际应用出发,探讨了特征降维技术值得关注的研究方向。     

结合优化MGFR与二维线性降维的特征提取算法

受限于人脸姿态、光照变化等因素,通过引入多通道Gaborface表征结合基于子空间的二维双向线性降维算法,提出了一种结合优化多通道Gaborface与二维线性降维的特征提取算法。首先,采用多通道Gaborface表征(MGFR)模型对样本集进行预处理,提取不同通道下的人脸Gabor特征表示并优化选取通道融合方式而组合成新特征;再引入样本间类别信息获得改进线性二维双向特征降维算法,从而对获得的人脸表示进行特征降维与提取;最终通过最近邻分类器得到分类结果。试验结果表明,通过在AR、ORL和YALE人脸库进行对比分析,改进算法对人脸姿态等变化具有较强的鲁棒性,且较其他算法表现出了较优的识别性能。     

基于信号传递的神经网络文本降维算法

为有效降低文本处理的时间与空间代价,根据“只有部分脑细胞发出的信号能到达大脑皮层”和“突触信号强度随着与神经细胞主体距离的加大而减弱”的理论,提出基于信号传递理论的神经网络降维算法。通过神经网络结构与训练算法的改变,在文本处理环境中神经元间LTM向量中有大量逼近0的分量,即存在很多不必要的神经元连接,以此作为文本降维的基础。实验结果证明,降维后的文本数据库以较低的时间代价具备与降维前相当甚至更高的分类准确率。     

基于分段组合特征降维的交叉视角目标定位研究

为提高交叉视角目标定位的精度,提出了一种基于分段组合特征降维的交叉视角目标定位方法。首先使用ResNet-50作为主干网络,并选取实例损失函数,提高了目标定位的性能。其次,为去除所提取特征的冗余信息,提出了一种分段组合降维方案对图像全局特征进行降维,保留了特征的主要信息并降低了特征维度,从而提高了目标定位的效率。在University-1652数据集上进行验证,实验表明所提方法与降维之前特征匹配相比,AP和Recall@1分别提升了1.08倍和1.1倍,能有效提高定位精度。     

基于成对约束半监督降维的高光谱遥感影像特征提取

半监督降维(Semi\|Supervised Dimensionality Reduction,SSDR)框架下,基于成对约束提出一种半监督降维算法SCSSDR。利用成对样本进行构图,在保持局部结构的同时顾及数据的全局结构。通过最优化目标函数,使得同类样本更加紧凑\,异类样本更加离散。采用UCI数据集对算法进行定量分析,发现该方法优于PCA及传统流形学习算法,进一步的UCI数据集和高光谱数据集分类实验表明:该方法适合于进行分类目的特征提取。     

基于PCA的超声缺陷类别识别方法研究

考虑超声回波信号不同参数对某一具体缺陷类别的不同重要性,在超声检测缺陷信号特征提取的基础上,提出采用主分量分析法对其分析。分析结论取代传统的直接把缺陷特征向量分类器作为输入的方法,避免冗余特征对缺陷类别识别的影响。将锻件中三类常见缺陷的特征向量分别进行主分量分析,并通过利用BP神经网络的泛化性能分别构建了分类器。利用DS证据理论对神经网络的输出进行融合识别。通过现场采集的超声探伤信号,对提出的分析方法进行验证,缺陷类别的识别率有较大提高,说明了该方法的有效性。     

过程编码降维在FCM中的改进研究

利用无监督聚类算法可以有效地保留数据特征的特性,提出采用无监督聚类算法来对数据样本进行降维处理的方法,通过将连续多次迭代分类结果进行按类数编码,得到快速判定聚类分析降维开始的可行条件及聚类结束条件,并以降维数据为数据样本,继续进行聚类分析,快速完成数据特征提取。通过实验证明该方法在数据降维效果和聚类算法的执行速度上都有很大提高。     

基于非线性降维算法的视频序列特征提取及图像重建

在经典算法的基础上,根据典型视频序列的特点对降维算法进行双通道扩展,并提出k近邻核函数法重建高维图像.在高低维空间建立映射,解决无重构算法的问题.同时也为视频压缩提供一条新思路.实验结果显示算法的有效性.     

利用PCA进行深度学习图像特征提取后的降维研究

深度学习是当前人工智能领域广泛使用的一种机器学习方法.深度学习对数据的高度依赖性使得数据需要处理的维度剧增,极大地影响了计算效率和数据分类性能.本文以数据降维为研究目标,对深度学习中的各种数据降维方法进行分析.在此基础上,以Caltech 101图像数据集为实验对象,采用VGG-16深度卷积神经网络进行图像的特征提取,以PCA主成分分析方法为例来实现高维图像特征数据的降维处理.在实验阶段,采用欧氏距离作为相似性度量来检验经过降维处理后的精度指标.实验证明：当提取VGG-16神经网络fc3层的4096维特征后,使用PCA法将数据维度降至64维,依然能够保持较高的特征信息.     

改进的入侵检测数据降维方法

数据降维是提高入侵检测分类器的学习效率和检测速度的重要手段。针对目前入侵检测数据特征降维力度不够,提出了一种基于主成分分析的分类特征降维方法。该方法把样本集按数据类型分割成多个子集,分别对每个子集进行主成分分析来消除各子集间在降维时的相互影响,使得每个子集的降维达到最佳。实验结果表明采用分类主成分分析方法能够更有效地降低数据维数,提高了入侵检测分类器的学习速度和检测速度。     

雷达辐射源信号小波变换特征提取方法

在小波域滤波算法的基础上提出一种对雷达辐射源信号进行脉内特征提取方法,该方法能够从信号中有效地提取定量信息。将小波变换后低频逼近小波系数的能量分布熵与经过尺度相关去噪计算后反映信号边缘的高频细节小波系数能量分布熵构成雷达辐射源信号的二维特征向量。通过对10种雷达辐射源信号的特征提取和分类仿真实验分析表明：提取的样本特征在0 dB下具有很好的抗噪性和可聚类性,方法是有效的。该方法能够简化分类器的设计,有利于工程应用。     

高维空间中针对离群点检测的特征抽取

提出了在高维空间中利用特征抽取提高离群点检测性能问题的解决方法。近年来,传统的检测技术已经不能适应高维的数据。介绍了一种有效的基于特征抽取的DROPT方法,该方法整合ERE策略和APCDA方法进行无特征损失的本征空间规则化之后降维,能够大大提高离群点检测精度,在此基础上还可以减小检测难度。实验证明这种在离群点检测中应用特征抽取的方法有一定的实用性。     

Feature extraction and dimensionality reduction by genetic programming based on the Fisher criterion

Abstract: Feature extraction helps to maximize the useful information within a feature vector, by reducing the dimensionality and making the classification effective and simple. In this paper, a novel feature extraction method is proposed: genetic programming (GP) is used to discover features, while the Fisher criterion is employed to assign fitness values. This produces non‐linear features for both two‐class and multiclass recognition, reflecting the discriminating information between classes. Compared with other GP‐based methods which need to generate c discriminant functions for solving c‐class (c>2) pattern recognition problems, only one single feature, obtained by a single GP run, appears to be highly satisfactory in this approach. The proposed method is experimentally compared with some non‐linear feature extraction methods, such as kernel generalized discriminant analysis and kernel principal component analysis. Results demonstrate the capability of the proposed approach to transform information from the high‐dimensional feature space into a single‐dimensional space by automatically discovering the relationships between data, producing improved performance.     

Automatic feature extraction of waveform signals for in-process diagnostic performance improvement

In this paper, a new methodology is presented for developing a diagnostic system using waveform signals with limited or with no prior fault information. The key issues studied in this paper are automatic fault detection, optimal feature extraction, optimal feature subset selection, and diagnostic performance assessment. By using this methodology, a diagnostic system can be developed and its performance is continuously improved as the knowledge of process faults is automatically accumulated during production. As a real example, the tonnage signal analysis for stamping process monitoring is provided to demonstrate the implementation of this methodology.     

Feature extraction and dimensionality reduction algorithms and their applications in vowel recognition

Feature extraction is an important component of a pattern recognition system. It performs two tasks: transforming input parameter vector into a feature vector and/or reducing its dimensionality. A well-defined feature extraction algorithm makes the classification process more effective and efficient. Two popular methods for feature extraction are linear discriminant analysis (LDA) and principal component analysis (PCA). In this paper, the minimum classification error (MCE) training algorithm (which was originally proposed for optimizing classifiers) is investigated for feature extraction. A generalized MCE (GMCE) training algorithm is proposed to mend the shortcomings of the MCE training algorithm. LDA, PCA, and MCE and GMCE algorithms extract features through linear transformation. Support vector machine (SVM) is a recently developed pattern classification algorithm, which uses non-linear kernel functions to achieve non-linear decision boundaries in the parametric space. In this paper, SVM is also investigated and compared to linear feature extraction algorithms.     

聚焦换能器的研制和在超声特征成像中的应用

为了提高对层状复合金属材料缺陷的成像分辨率,需要用高灵敏度的聚焦换能器.针对我们研制的(F-San)全自动超声特征成像系统,用钛酸铅做压电晶片,不同颗粒度的钨粉做声透镜和背衬的主要材料,研制了主频为10～20MHz宽带窄脉冲聚焦换能器,并用光学法拍摄了主频为10MHz的换能器的超声波声场在水中的聚焦过程及焦斑大小.在对层状复合金属材料检测时,缺陷的成像分辨率达0.5 mm.     

基于链码描述的图像图形特征提取

为提取云团反射率图像内部层次类特征和轮廓线上不规则的凹陷类特征,在构建基于图像内容的层次结构模型的基础上,提出相对极坐标系下的距离链码和基于八方向链码的累积导数和差码方法,前者用于层次类特征提取,后者用于轮廓形态特征的提取,构建梯度特征、云砧特征以及凹陷特征的提取算法.实验证明,该方法下的特征类间区分度高,运行速度快,可用于解决非刚体图像的相关特征的提取.     

Feature dimensionality reduction for the verification of handwritten numerals

A novel method based on multi-modal discriminant analysis is proposed to reduce feature dimensionality. First, each class is divided into several clusters by the k-means algorithm. The optimal discriminant analysis is implemented by multi-modal mapping. Our method utilizes only those training samples on and near the effective decision boundary to generate a between-class scatter matrix, which requires less CPU time than other nonparametric discriminant analysis (NDA) approaches [Fukunaga and Mantock in IEEE Trans PAMI 5(6):671–677, 1983; Bressan and Vitria in Pattern Recognit Lett 24(5):2473–2749, 2003]. In addition, no prior assumptions about class and cluster densities are needed. In order to achieve a high verification performance of confusing handwritten numeral pairs, a hybrid feature extraction scheme is developed, which consists of a set of gradient-based wavelet features and a set of geometric features. Our proposed dimensionality reduction algorithm is used to congregate features, and it outperforms the principal component analysis (PCA) and other NDA approaches. Experiments proved that our proposed method could achieve a high feature compression performance without sacrificing its discriminant ability for classification. As a result, this new method can reduce artificial neural network (ANN) training complexity and make the ANN classifier more reliable.     

特征提取及其在电子鼻对可燃液体识别中的应用

利用6只TGS传感器组成的阵列对4种常见的易燃液体和3种不可燃饮料进行测试,并选用4种有代表性的特征提取方法,主元分析法(PCA)、Fisher判别法(FDA)、自组织映射(SOM)、Sammon映射法(Sammon map)作为数据预处理方法,并用3种模式识别方法对预处理后的数据进行识别。结果表明:在各种特征提取方法的处理下,可燃类和不可燃类样本都能被准确地区分,而只有在有导师的特征提取方法才能有效地识别各个可燃液体类子类和不可燃液体类子类的样本类别,最佳的投影维数与各特征提取方法有密切联系,而最优的模式识别方法则与数据的分布有关。     

Feature extraction without phase error for THz reflective spectroscopy

We propose two methods for avoiding misplacement phase error in terahertz reflection time-domain spectroscopy(THz-RTDS).The absorption signatures of the materials are extracted directly from the second-order derivative of the phase of the sample beam or the first derivative of the relative reflectance with respect to frequency.The techniques provide straightforward and fast solutions to solve the phase-retrieval problem in RTDS.