一种针对不平衡数据分类的集成学习算法

针对水声目标识别中常被忽略的数据不平衡问题,提出一种随机子空间AdaBoost算法(RSBoost)。通过随机子空间法在不同水声特征空间上提取子训练样本集,在各个子训练样本集上训练基分类器,将其中少类间隔均值最大的基分类器作为本轮选定的分类器,迭代形成最终集成分类器。在实测数据上进行试验,利用F-measure和G-mean两个准则对RSBoost算法和AdaBoost算法在不同特征集上的性能进行评价。试验结果表明:相对于AdaBoost算法, RSBoost算法在F-measure准则下的平均值由0.07提升到0.22,在G-mean准则下的平均值由0.18提升到0.25,说明在处理水声数据不平衡分类问题上, RSBoost算法优于AdaBoost算法。     

一种针对不平衡数据分类的集成学习算法

针对水声目标识别中常被忽略的数据不平衡问题,提出一种随机子空间AdaBoost算法(RSBoost)。通过随机子空间法在不同水声特征空间上提取子训练样本集,在各个子训练样本集上训练基分类器,将其中少类间隔均值最大的基分类器作为本轮选定的分类器,迭代形成最终集成分类器。在实测数据上进行试验,利用F-measure和G-mean两个准则对RSBoost算法和AdaBoost算法在不同特征集上的性能进行评价。试验结果表明:相对于AdaBoost算法, RSBoost算法在F-measure准则下的平均值由0.07提升到0.22,在G-mean准则下的平均值由0.18提升到0.25,说明在处理水声数据不平衡分类问题上, RSBoost算法优于AdaBoost算法。     

一种用于不平衡数据的分类算法

为提高不平衡数据集中少数类的分类性能,本研究提出一种改进的AdaBoost算法(UnAdaBoost算法)来解决数据不平衡问题。该方法首先改进基分类器,使其在损失一定程度的多数类分类性能的情况下提高少数类的分类性能,而多数类分类性能的损失可通过后面的多个分类器集成弥补回来,这样既提高了少数类的分类性能又不会损失多数类的分类精度。本研究把改进的朴素贝叶斯方法作为基分类器,用改进投票权值的AdaBoost算法对基分类器进行融合。实验结果表明,与传统的Adaboost算法相比,该方法可以有效地提高不平衡数据的分类性能。     

整数矩阵变换的选择集成及对雷达目标的识别

为了改善单个分类器对雷达目标的识别性能,分别从差异性和准确率两个因素出发,提出了一种通过变换分类器选择集成对雷达目标识别的算法.首先,为了增加集成个体差异性,将个体分类器的预测标记作为变换的原始目标,将正确标记引入来代替变换中的目标均值,以此构造一个整数矩阵.通过将个体分类器的预测标记投影到经过正确标记的直线上,从而获得一组新的预测标记.然后,根据准确率和RPFmeasure这两种衡量分类器性能的准则,选择一些性能提高了的个体进行集成,以此保证个体分类器的准确率.最后,通过结合被选择的个体预测标记来改善对雷达目标的识别性能.对于UCI机器学习资源库中数据集和雷达一维距离像的实验结果表明,该算法能有效平衡个体差异性和个体准确率两个因素,并且相比单个分类器和其他集成方法,该方法提高了对雷达目标的识别准确率.     

AdaBoost算法的推广——一组集成学习算法

针对AdaBoost算法只适合于不稳定学习算法这一不足,基于增加新分类器总是希望降低集成分类器训练错误率这一思想,提出了利用样本权值来调整样本类中心的方法,使AdaBoost算法可以与一些稳定的学习算法结合成新的集成学习算法,如动态调整样本属性中心的集成学习算法、基于加权距离度量分类的集成学习算法和动态组合样本属性的集成学习算法,大大拓展了AdaBoost算法适用范围。针对AdaBoost算法的组合系数和样本权值调整策略是间接实现降低训练错误率目标,提出了直接面向目标的集成学习算法。在UCI数据上的实验与分析表明,提出的AdaBoost推广算法不仅有效,而且部分算法比AdaBoost算法效果更好。     

面向目标的带先验概率的AdaBoost算法

针对集成学习算法研究中多个分类器的最佳组合问题,改进了传统的AdaBoost集成学习算法.用于组合的各个分类器通常是基于样本集通过一定的训练得到,样本集中不同类目标的比率可以反映分类目标的先验概率.使用该参数给出了新的组合参数和投票表决阈值计算公式,巧妙的利用样本权值并将其加入到样本属性上进行训练学习,采用新的策略来选择基分类器,给出了面向目标的带先验概率的AdaBoost算法(GWPP AdaBoost算法)和分类器的最佳组合.依据UCI实验数据对传统的AdaBoost算法、Bagging算法、GWPP AdaBoost算法的错误率和性能进行了比较分析,验证了GWPP AdaBoost的有效性.     

一种面向不平衡数据集的过采样算法

传统过采样算法通过合成少数类样本来改善不平衡问题,但未考虑产生噪点与样本分布不均匀等问题,针对该类问题,提出了一种基于聚类与对改进SMOTE的过采样算法SK-SMOTE。该算法在聚类前,先合成一部分少数样本,以此提高少数类样本数量,同时根据合成的少数类样本的邻居样本的类别和距离赋予权重,通过权重总和是否大于设定的值来决定该样本是否可以被保留。在提高少数类样本数量后,再使用KMeans算法进行聚类,然后保留少数样本较多的簇。在簇内进行过采样,相对稀疏的簇将合成更多的少数类样本。选取UCI和KEEL数据库中的不平衡数据集,将SVM、RF、KNN作为分类算法,并选用几种经典的SMOTE算法与SK-SMOTE进行多组对比实验。实验结果表明,SK-SMOTE算法可有效平衡不平衡数据集,且在不平衡比例较高的数据集上取得了比传统过采样算法更好的结果。     

面向不平衡问题的集成特征选择

传统的特征选择方法基本上是以精度为优化目标,没有充分考虑数据样本类别分布倾斜性,在数据分布不平衡的数据集上性能表现不理想。在不平衡数据集上通过有放回的抽样方法独立地从数据集大类样本集中随机抽取多个样本子集,使每次随机抽取的样本数量与小类样本数量一致,然后将各抽取的样本子集分别与小类样本集组合成多个新的训练样本集。对多个新样本集的特征子集以集成学习的方式采用投票机制进行投票,数据集的最终特征子集以得票数目超过半数的特征共同组合而成。在UCI不平衡数据集上的实验结果显示,提出的方法表现出了较好的性能,是一种能够处理不平衡问题的有效特征选择方法。     

基于AdaBoost的欠抽样集成学习算法

不平衡数据集分类中,采用欠抽样方法容易忽略多数类中部分有用信息,为此提出一种基于AdaBoost的欠抽样集成学习算法U-Ensemble。该方法首先使用AdaBoost算法对数据集预处理,得到各样例权重。训练基分类器时,针对多数类数据不再采用bootstrap抽样方法,而是分别随机选择部分权重较大的样例与部分权重较小的样例,使两部分样例个数与少数类样例个数相同,并组成Bagging成员分类器的训练数据。实验结果证明了算法的有效性。     

用于水声通信系统的迭代接收算法

提出一种基于频域最小均方误差(MMSE)均衡器、信道估计器和卷积码译码器,运用Turbo迭代原理构建用于单载波水声点对点通信的迭代接收算法.该迭代接收算法,引入频域均衡处理来降低多通道均衡处理复杂性,利用译码器提供的软信息来改善均衡器和信道估计器自身的性能,从而使用较少的接收阵元实现高速、可靠的数据传输.基于实测的声速抛面曲线(SSP)和有限元声线跟踪(Bellhop)方法模拟的水声信道脉冲响应用于算法性能的验证.仿真结果表明,使用上述体制的水声通信系统,利用译码器提供的增益来提高系统性能的同时,接收阵元的数量进一步减少,满足构建水下通信网节点的要求.     

一种基于不平衡样本集的摩托车识别算法

提出了一种基于HSV(Hue-Saturation-Value)空间的Haar小波特征和多SVM(Support Vector Machine)分类器的摩托车识别算法,以解决因样本比例不平衡所导致的对摩托车识别性能差的问题.首先在HSV颜色空间基于无符号小波系数构造特征提取算法,然后对训练数据应用所提出的样本重构方法得到若干训练子集,基于各个训练子集训练相应的SVM分类器,识别时将各SVM的输出结果进行融合即可得到最终识别结果.实验结果表明:该方法识别性能高,鲁棒性好,对于受数据的不平衡性严重影响的对象识别具有较好的应用和推广价值.     

生物友好的认知水声网络频谱分配

为充分利用海洋哺乳动物和水声传感器网络(UASNs)共享的稀缺频谱资源,提出了一种生物友好的认知水声网络频谱分配(MMF-CASA)方法。将海洋哺乳动物作为主用户,传感器节点作为次级用户,设计了生物友好的认知水声网络通信机制。以次级用户系统容量最大化为目标建立效用函数,通过拉格朗日乘数法和功率控制与信道分配技术求解次级用户的发送功率与信道分配,设计了生物友好的水声网络频谱分配机制和算法。实现了主用户和次级用户信道共享,最大化了水下稀缺的频谱资源的利用率。仿真结果表明,采用生物友好的认知水声网络频谱分配方法能够避免传感器节点通信对海洋哺乳动物间通信的干扰,使网络的频带利用率和系统容量分别提高了37.4%和34.2%。     

面向类不平衡数据的K近邻偏标记学习算法

针对于类不平衡的偏标记学习问题,在PL-KNN算法的基础上,提出一种可以较有效处理类不平衡问题的偏标记K近邻学习算法(K-nearest neighbor algorithm for class imbalanced partial label learning,IM-PLKNN),利用Parzen窗估计法在样本的不同类别的近邻上设置不同的权重,使多数类样本权重降低,让属于少数类样本的近邻具有更高的权重,降低将少数类样本误测为多数类样本的概率,提高对少数类样本的识别精度。试验结果表明,IM-PLKNN算法较PL-KNN算法在不同评价指标上均有显著提高,特别是对少数类样本的识别精度有大幅度提高。IM-PLKNN算法可以有效提高类不平衡的偏标记K近邻学习算法对数据集整体的预测性能。     

水声信道下差分跳频信号检测的优化算法

为克服水声多途干扰影响,提出将差分跳频技术应用于水声通信,通过分析水声多途信道下差分跳频信号的特征,利用频率转移函数的隐含信息和水声信道的多途特征,优化了频率序列检测的Vitervi硬判决算法,并详细给出了算法流程.在含有加性高斯白噪声的多途信道下进行了仿真.结果表明,采用优化算法的系统性能得到显著提高,在频率检测差错率为10×10-3时,获得了近2.5 dB的增益,表明差分跳频体制能有效克服多途干扰,适用于水声通信.     

Research on the improved frequency-domain equalization algorithm for OFDM underwater acoustic communication

The traditional OFDM frequency-domain equalization algorithm depends on the long circular prefix to overcome the bad influences caused by multi-path effects in the underwater acoustic channel. But the redundant long prefix is actually a serious waste of energy and bandwidth in underwater systems, which restrains the OFDM signal's advantages of high channel utilization greatly. Aiming at the defects of the traditional equalization algorithm, this paper brings forward a new frequency-domain equalization algorithm based on the analysis of the influences caused by multi-path effects and the equalization theory and structure. The results of simulation show that the new algorithm can compensate the multi-path effects efficiently with few circular prefixes and make sure the high-speed and reliability of the underwater acoustic communication system. Finally, based on the amount of computing, a simple algorithm is given.