基于Filter Wrapper模式的特征选择算法*

特征选择是数据挖掘、机器学习和模式识别中始终面临的一个重要问题。针对类和特征分布不均时,传统信息增益在特征选择中存在的选择偏好问题,本文提出了一种基于信息增益率与随机森林的特征选择算法。该算法结合Filter和Wrapper模式的优点,首先从信息相关性和分类能力两个方面对特征进行综合度量,然后采用序列前向选择（Sequential Forward Selection, SFS）策略对特征进行选择,并以分类精度作为评价指标对特征子集进行度量,从而获取最优特征子集。实验结果表明,本文算法不仅能够达到特征空间降维的效果,而且能够有效提高分类算法的分类性能和查全率。     

基于多Agent的模式识别框

传统的模式识别方法主要存在两个方面的不足：集中式控制；依赖于特征抽取和选择的质量．本文的研究是在分析自上而下模式识别方法和自下而上模式识别方法的特性和优缺点基础上，基于多agent理论和技术，提出了将两种不同类型的方法集成的模式识别框架APRF（Agent-Based Pattern Recognition Frame） ；先用自下而上定量计算方法对模式建模，使其有利于分类；再用自上而下的定性分析方法对模式涌现．目的是让计算机模式识别更符合人的认知过程，APRF的基本思想是：模式识别一模式建模＋模式涌现．     

基于改进LightGBM的交通模式识别算法

针对交通模式识别中非步行交通模式识别精度低的问题,提出一种改进后的LightGBM算法结合移动端的交通模式分类方法。该方法首先对数据集进行了滤波处理,选取了三轴加速度计、陀螺仪和磁力计这3种传感器数据的时域和频域特征作为模式识别特征量,然后通过采用Filter相关性度量CFS算法对特征进行打分排序,选择最优特征集,最后识别过程采用分层识别算法和基于居民出行规则与一阶隐马尔科夫链改进的K-lightGBM识别算法对交通模式进行识别,同时采用部分传统算法进行对比实验。实验结果表明,该方法不仅能识别多种交通模式,而且对居民的交通模式识别的平均准确率较高,达到了94%。     

模式识别中的特征选择方法

本文就二类模式识别问题给出一种特征选择新方法。这种基于一个限定样本子集的方法,比起 K-L 特征选择、最小类内欧氏距离特征选择、最大类间欧氏距离特征选择,更适合于模式分类问题。这里,后面两种特征选择方法是由文献〔1〕提出来的。     

模式识别中欧氏距离特征选择新方法

本文提出用降维空间中欧氏距离作为模式识别中特征选择的准则。特征选择后的模式在新的特征空间中,如果类内欧氏距离最小,或类间欧氏体距离最大,则可获得良好的分类效果。可以证明,K-L特征选择中,在讨论分类问题时,往往采用类内协方差矩阵最大本征值的那些特征,这是离开模式识别要求的讨论。本文从欧氏距离,正交变换和二次最优的观点。提出模式识别中三类特性选择方法,即最小类内欧氏距离特征选择,最大类间欧氏距离特征选择和综合欧氏距离特征选择。本文通过比较及实例分析,说明欧氏距离特征选择具有简明、直观的特点,并且把以正交变换为基础的各种特征选择方法从概念上统一起来。     

具有统计不相关性的最佳鉴别特征空间的维数定理

提出并严格证明了具有统计不相关性的最佳鉴别特征空间的维数定理：对含有L个类别的模式识别问题，具有统计不相关性的最佳鉴别特征空间的维数为（L－1）：说明了具有统计不相关性的最佳鉴别变的与Wilks所提出的经典的模式特征抽取方法的关系。在一定的条件下，具有统计不相害性的最佳鉴别矢量集等价于Wilks所提出的经典鉴别矢量集。经典的模式特征抽取方法可以用来在不损失任何Fisher鉴别信息的意义下，对含有L个类别的模式识别问题。抽取（L－1）个具有统计不相关性的最佳鉴别特征。     

基于特征选择的M-SVM中文文本分类

在文本分类领域,中文文本需要经过数据处理,将文档表达成计算机可以理解并处理的信息。本文采用TF-IDF作为文本表示方法,针对中文文章的多分类问题,对传统支持向量机进行改进,提出了一种基于特征选择的多类支持向量机分类方法。在中文文章数据集的对比实验结果表明,本文的方法在多分类性能上较优于其他模式识别方法。     

DCT结合特征选择的红外人脸识别

为了从生物特征和统计角度来提高识别的性能,提出了一种基于血流图的离散余弦变换（discrete cosine transform,DCT）与特征选择相结合的人脸识别方法。该方法首先利用血流模型把红外温谱图转换成血流图,得到更具丰富频率的特征。其次,采用DCT变换可以有效地消除血流图的相关性。最后,在DCT域特征提取阶段,为了提高特征提取的有效性,特征选择和子空间学习基于一致的可分性目标：特征选择引入基于可分性的DCT系数选择算法以抽取鉴别能力强的DCT系数,对抽取的DCT系数采用基于可分性的线性鉴别分析（linear discriminant analysis,LDA）方法。实验结果表明,该红外人脸识别方法可以快速有效地提取血流图中适合分类的特征,识别率优于传统DCT＋LDA方法。     

基于遗传算法及聚类的基因表达数据特征选择

特征选择是模式识别及数据挖掘等领域的重要问题之一。针对高维数据对象（如基因表达数据）的特征选择,一方面可以提高分类及聚类的精度和效率,另一方面可以找出富含信息的特征子集,如发现与疾病密切相关的重要基因。针对此问题,本文提出了一种新的面向基因表达数据的特征选择方法,在特征子集搜索上采用遗传算法进行随机搜索,在特征子集评价上采用聚类算法及聚类错误率作为学习算法及评价指标。实验结果表明,该算法可有效地找出具有较好可分离性的特征子集,从而实现降维并提高聚类及分类精度。     

基于多元图结构子模式表示的模式识别方法*

针对统计模式识别和结构模式识别方法各自的局限性,提出一种基于多维数据多元图结构子模式表示（包括图形基元和特征基元表示）的模式识别方法,它体现了模式识别问题研究的一种新思维,具有鲜明的可视化特点。应用多维数据多元图表示原理实现无结构数据的结构化表示,提取出表征多元图图形的图形基元和特征基元,将对象表达为多元图结构特征子模式进行分类识别。利用UCI机器学习数据库中的Iris数据进行了分类实验,实验对比结果显示该方法具有较好的识别效果。     

基于可信间隔的特征选择方法研究

传统的特征选择方法没有很好地考虑数据的模式特性而导致性能下降．ReliefF是较为有效的特征选择方法,但存在特征权值随样本波动和不能去除冗余特征的问题．对此,从数据本身的模式特性出发,提出了可信间隔的概念和基于可信间隔进行特征选择的方法．以氧化铝回转窑烧结过程数据为实验数据进行特征选择和烧结工况识别实验,结果表明,所提出的方法能去除冗余特征,有效地提高了识别率．     

LBP与鉴别模式结合的热红外人脸识别

为了提取具有鉴别能力的红外人脸图像局部结构特征,提出一种基于LBP(local binary pattern)鉴别模式的红外人脸识别方法。传统的LBP均匀模式,提取自然图像中占主导地位的信息用于识别,但占主导地位的信息不一定是最适合识别的。为了提取有效的鉴别模式特征,基于监督学习的思想,在LBP模式下引入可分性标准,对不同LBP模式进行有效的模式选择,从而抽取适合识别的鉴别模式。最后,为了利用人脸的空间位置信息,结合分块和直方图技术得到最后的识别特征。实验结果表明,本文鉴别模式可以提取更适合识别的特征,识别性能优于传统的基于均匀模式的LBP方法。     

用于特征筛选的最近邻（KNN）法

把基于分类的最近邻（KNN）算法用于模式识别的特征筛选过程,并与传统的基于线性分析的模式识别特征筛选方法主成分回归（PCA）、偏最小二乘法（PLS）和K＿W检验等做比较,证明KNN方法对包容型数据的特征变量筛选尤其有效。为包容型数据的特征筛选提供了一种有力的工具。     

基于融合特征与支持向量机的控制图模式识别

为了提高控制图模式识别的精度, 将控制图模式的原始特征与形状特征相融合得到分类特征, 并采用支持向量机进行模式分类的控制图模式识别。融合所得特征既保持了控制图模式的原始特征所蕴涵的模式全局特性信息, 又通过引入形状特征对部分易混淆模式的局部几何特性进行强化, 使不同模式间的区分度得到有效提高; 而以支持向量机作为模式分类器保证方法在高维度特征和小样本条件下也能获得较好的识别性能。仿真实验结果表明所提方法的识别精度相比其他几种基于形状特征的控制图模式识别方法有明显提高。     

基于人工鱼群算法优化SVM的手部动作sEMG识别

为了提高人体手部运动模式识别的准确性,提出了一种基于人工鱼群算法优化支持向量机( SVM)的模式识别方法.该方法对采集的表面肌电信号( sEMG)去噪后提取小波系数最大值作为特征样本,将提取后的特征输入到SVM进行动作模式识别,同时采用人工鱼群算法优化SVM( AFSVM)的惩罚参数和核函数参数,避免参数选择的盲目性,提高模型的识别精度.通过对内翻、外翻、握拳、展拳四种动作仿真结果表明:该方法与传统的SVM方法相比具有更高的识别率.     

基于相对极差的不确定脑网络特征提取与分类

近年来,脑网络被广泛应用在脑部疾病的诊断和分类中。考虑到大脑的不确定性特征,先前的研究将不确定图应用在脑网络建模中。在不确定脑网络研究中,传统的特征提取方法多采用均值、方差、极差等进行子图特征提取,但是它们存在泛化性能差以及子图间差异无法直接衡量的问题,进而影响分类准确率。因此,相对极差被提出作为新的特征提取方法。这一方法的优点在于既考虑到子图模式间的最大差异,又考虑到子图模式间的组间差异,可以有效避免传统方法的弊端。结果表明,相对极差与其他特征提取方法相比,其分类性能显著高于传统方法。同时,在不同的特征选择方法下相对极差表现出较好的分类性能,具有很强的泛化性。该研究为不确定脑网络特征提取方法提供了重要的参考意义。     

基于小波的车牌汉字特征提取

车牌识别系统是智能交通不可或缺的一部分.在车牌识别系统中,车牌首位汉字的特征提取和识别是一个难点.为此,将小波的多分辨率特性应用于车牌汉字特征的提取,提出了一种直接从灰度图象提取车牌汉字特征的提取方法.该方法首先提取图象的小波矩和基于小波分解的区域密度特征,然后以识别率好坏为最优依据,进行特征分量排序和选择,最后把特征矢量送入BP神经网络进行字符识别.该方法避免了一些传统汉字特征提取方法需要对图象进行二值化操作而造成的汉字字符结构信息丢失.提取的特征有效地反映了车牌汉字的局部和全局特征.实验结果表明该特征提取方法可以得到比较好的识别效果.     

一种特征选择的动态规划方法

通过分析特征选择的机理,提出了一种特征选择性能指标和基于此指标的动态规 划特征选择方法.使复杂的多类特征信息选择的全局满意解寻求过程,转变成一个简单的阶 段性最优化问题.在一定条件下,由各阶段最优决策构成的整体策略等价于原问题的全局满 意解.本文法较好地应用于水声信号特征分析.