基于Spark的改进随机森林算法

针对基于单机的经典随机森林算法无法满足海量数据处理需求的问题,文中采用Spark分布式存储计算技术设计并实现了改进的随机森林算法。首先计算特征的重要程度,将特征分为公共特征、独有特征和非重要特征;然后按顺序和比例分别在各个特征子空间中随机选择特征;最后通过Spark集群进行实验,分析改进的随机森林算法分类性能、加速比和效率。结果证实改进的算法提高了随机森林构建效率,可以用来解决海量数据挖掘问题,具有良好的可扩展性。     

ReliefF-SVM RFE组合式特征选择人脸识别

针对人脸识别中因特征个数较多对识别的实时性和准确性影响较大的问题,提出了ReliefF-SVM RFE组合式特征选择的人脸识别方法。利用离散余弦变换提取特征和ReliefF对人脸图像特征集做特征初选,降低特征维数空间,再用改进的SVM RFE（Support Vector Machine Recursive Feature Elimination）选择最优特征,解决了利用SVM RFE特征选择时因特征数多而算法需多次训练耗时长的问题。对训练得到的特征排序表采用交叉留一验证方法选取最优子集,再由SVM分类识别。在UMIST人脸库上实验证明,可以在特征数为52时,达到98.84%的识别率,识别时间仅需0.037 s。     

基于多标签ReliefF的特征选择算法

针对传统特征选择算法局限于单标签数据问题,提出一种多标签数据特征选择算法——多标签ReliefF算法。该算法依据多标签数据类别的共现性,假设样本各类标签的贡献值是相等的,结合三种贡献值计算方法,改进特征权值更新公式,最终获得有效的分类特征。分类实验结果表明,在特征维数相同的情况下,多标签ReliefF算法的分类正确率明显高于传统特征选择算法。     

入侵检测系统中基于变量相似性特征选择

ReliefF是一种在很多场合经常使用的filter式的特征选择方法．然而该方法的一大缺点是不能辨别冗余特征。基于ReliefF算法提出一种混合的有监督的特征选择算法。该算法首先利用ReliefF算法去除与分类无关的以及权重低于一定阈值的特征，然后采用一种变量相似性准则来去除冗余特征。在实际的数据集KDDCUP＇99上进行的实验结果表明该混合特征选择方法较单独使用ReliefF方法在分类精度上有一定的提高。     

基于ReliefF与互信息结合的特征评价、筛选的家庭负荷类型辨识方法研究

家庭负荷识别是实现需求侧精细化管理的关键。针对现有家庭负荷辨识研究中对所提取特征贡献度及相关性分析不足的问题,提出了基于ReliefF与互信息结合的特征评价、筛选的家庭负荷类型辨识方法。文中在现有研究基础上提取了16个家庭负荷运行暂、稳态特征,对其权重及特征间相关性进行分析,筛选了其中辨识效果最优的特征组合,利用基于粒子群优化的支持向量机(Support Vector Machine based on Particle Swarm Optimization,PSOSVM)分类模型对实测数据样本进行了辨识。算例结果验证了所提算法的准确性和优越性。     

声呐渗流测量数据降噪的分类模型研究

渗漏造成的一系列安全隐患已严重威胁到地下隐蔽工程的建设与正常运行。为了研发新的渗流测量手段与技术方法,减少控制渗漏事故的发生,提出了一种基于梯度提升树的声呐渗流检测结果分类模型。模型利用ReliefF算法选取贡献权重大的特征作为训练数据集,利用属性标注的数据集训练出区分水库渗流、井孔渗流与噪声的梯度提升树模型。实验结果表明,所提出的分类模型具有良好的识别性能,在训练集上实现了高达96.6%的准确度,且在实际使用中能够较为准确地识别噪声干扰。     

基于ReliefF的层次分类在线流特征选择算法

在图像标注、疾病诊断等实际分类任务中,数据标记空间的类别通常存在着层次化结构关系,且伴随着特征的高维性。许多层次特征选择算法因不同的实际任务需求而提出,但这些已有的特征选择算法忽略了特征空间的未知性和不确定性。针对上述问题,提出一种基于ReliefF的面向层次分类学习的在线流特征选择算法OH_ReliefF。首先将类别之间的层次关系融入ReliefF算法中,定义一种新的面向层次化数据的特征权重计算算法HF_ReliefF;其次,利用特征对决策属性的划分能力动态选择重要特征;最后,基于特征之间的独立性对特征进行动态冗余分析。实验结果表明,与五种先进的在线流特征选择算法作对比,OH_ReliefF算法在K最邻近（KNN）分类器和拉格朗日支持向量机（LSVM）分类器的各个评价指标中都取得较优的结果,准确率最少提高7个百分点。     

多层次降维的头颈癌图像特征选择方法

针对原始病理图像经软件提取形态学特征后存在高维度,以及医学领域上样本的少量性问题,提出ReliefF-HEPSO头颈癌病理图像特征选择算法。该算法构建了多层次降维框架,首先根据特征和类别的相关性,利用ReliefF算法确定不同的特征权重,实现初步降维。其次利用进化神经策略(ENS)丰富二进制粒子群算法(BPSO)的种群的多样性,提出混合二进制进化粒子群算法(HEPSO)对候选特征子集完成最佳特征子集的自动寻找。与7种特征选择算法的实验对比结果证明,该算法能更有效筛选出高相关性的病理图像形态学特征,实现快速降维,以较少特征获得较高分类性能。     

采用S变换特征选择方法的心律失常分类

针对短时傅里叶变换与小波变换对心电图（Electrocardiogram,ECG）信号特征提取不足以及心律失常识别困难的问题,提出了一种基于S变换特征选择的心律失常分类算法。首先对ECG信号进行S变换,并从幅值和相位两个角度提取ECG信号的时频特征,与形态特征和RR间隔组成原始特征向量。然后将遗传算法与支持向量机（Support vector machine,SVM）结合组成Wrapper式特征选择方法,并在其中融入ReliefF算法,即采用ReliefF算法计算特征权重,并根据特征权重大小来指导遗传算法种群初始化,遗传算法以SVM的分类性能作为适应度函数来搜索特征子集。最后使用"一对多"（One against all,OAA）SVM对MIT-BIH心律失常数据库8种类型心拍进行分类。实验结果表明,该算法达到了较好的分类效果,灵敏度、特异性和准确率分别为96.14%,99.75%和99.81%。     

Air Quality Prediction Based on Kohonen Clustering and ReliefF Feature Selection

Air quality prediction is an important part of environmental governance. The accuracy of the air quality prediction also affects the planning of people’s outdoor activities. How to mine effective information from historical data of air pollution and reduce unimportant factors to predict the law of pollution change is of great significance for pollution prevention, pollution control and pollution early warning. In this paper, we take into account that there are different trends in air pollutants and that different climatic factors have different effects on air pollutants. Firstly, the data of air pollutants in different cities are collected by a sliding window technology, and the data of different cities in the sliding window are clustered by Kohonen method to find the same tends in air pollutants. On this basis, combined with the weather data, we use the ReliefF method to extract the characteristics of climate factors that helpful for prediction. Finally, different types of air pollutants and corresponding extracted the characteristics of climate factors are used to train different sub models. The experimental results of different algorithms with different air pollutants show that this method not only improves the accuracy of air quality prediction, but also improves the operation efficiency.