ECOC多类分类研究综述

纠错输出编码能有效地将多类问题转化为二类问题进行求解,已受到国内外从事机器学习的研究者们的重视,并使其成为多类分类领域的研究热点.本文首先分析了ECOC多类分类的原理和框架,指出解决ECOC多类分类问题的关键在于解码策略和编码策略的确定;然后从这两个关键点出发综述了ECOC多类分类的最新进展和应用领域;最后指出了目前存在的问题以及下一步研究方向.论文研究成果将为基于ECOC多类分类方法在实际应用过程中起借鉴和参考作用.     

带拒绝域的ECOC多类分类

针对纠错输出编码分解框架的自身特点、从降低误判风险出发,研究了带拒绝域的ECOC多类分类方法.首先在二类划分过程中引入拒绝域,对不属于正负子类的待识别样本进行拒识;其次,在基分类器内部引入拒绝域,以最小化风险贝叶斯决策为目标,利用后验概率输出和代价矩阵寻找拒绝域阈值,对样本输出值落入拒绝域中的样本进行拒识;最后,研究了不同拒绝域输出的解码方法,并讨论了拒识码字个数和矩阵最小Hamming距离之间的关系.实验结果表明基于二类划分构造的拒绝域能够提高分类正确率,而基于基分类器构造的拒绝域能够减小分类代价.     

基于神经网络的纠错输出编码方法研究

构造基于数据编码矩阵是目前利用纠错输出编码解决多类分类问题的研究重点.为此提出利用单层感知器作为学习框架,结合解码策略把输出编码矩阵各码元值映射为感知器网络中的权值,同时引入含权值取值约束的目标函数作为该网络代价函数,并对其进行学习,最终得到基于子类划分的数据编码矩阵.实验中利用人工数据集和UCI数据集并选择线性逻辑分类器作为基分类器分别进行测试,通过与几种经典编码方法比较,结果表明该编码方法能在编码长度较小情况下得到更好的分类效果.     

基于ROC的三元再编码研究

针对三元编码矩阵中基分类器不包含被忽略样本类别先验知识的问题,该文提出一种基于接收机工作特性(ROC)曲线的矩阵再编码方法。首先基于ROC曲线寻找构造拒绝域的阈值对,从而获得最优分类器;然后利用最优分类器对训练样本中被忽略的类别进行分类,将经典的二值输出变为三值输出,从而对初始编码矩阵的码元0进行重新编码。在解码阶段,采用经典的汉明距离解码方法对未知样本进行决策。该方法能够避免基分类器的二次训练,适用于任意的三元纠错输出编码,具有良好的普适性和实用性。基于人工和UCI公共数据集的实验结果表明该方法简单高效,在不增加训练时间的基础上,能够提高解码的速度和精度,促进分类效果的提升。     

The Research and Appliaction of the Multi-classification Algorithm of Error-Correcting Codes Based on Support Vector Machine

为了提高变压器故障诊断的准确率,提出了一种基于纠错编码和支持向量机相结合的多分类算法,根据SVM理论建立变压器故障诊断数学模型,首先基于纠错编码矩阵构造出若干个互不相关的子支持向量机,以提高分类模型的分类准确率。最后把变压器油中溶解气体（DGA）作为纠错编码支持向量机的训练以及测试样本,实现变压器的故障诊断,同时用UCI数据对该算法进行验证。通过VS2008和Libsvm相结合对其进行验证,结果表明该方法具有很高的分类精度。     

基于SVM的纠错编码多分类算法的研究与应用

为了提高变压器故障诊断的准确率,提出了一种基于纠错编码和支持向量机相结合的多分类算法,根据SVM理论建立变压器故障诊断数学模型,首先基于纠错编码矩阵构造出若干个互不相关的子支持向量机,以提高分类模型的分类准确率。最后把变压器油中溶解气体(DGA)作为纠错编码支持向量机的训练以及测试样本,实现变压器的故障诊断,同时用UCI数据对该算法进行验证。通过VS2008和Libsvm相结合对其进行验证,结果表明该方法具有很高的分类精度。     

加权解码在解决纠错输出编码Consistent-Diverse平衡问题的应用

 纠错输出编码作为解决多类分类问题的通用集成框架,能有效的把多类问题分解为二类问题从而使问题得以简化.然而在生成基分类器的过程中,经常面临提高基分类器之间的差异性和增加各基分类器与集成分类器学习的一致性的矛盾,称之为consistent-diverse平衡问题.在保证差异性的前提下减小由学习不一致性引起的分类错误率是解决该平衡问题的一个出发点,在此利用加权解码,通过对加权系数矩阵的再学习进而减弱和消除由基分类器学习不一致性产生的误差.实验利用人工数据集和UCI数据集分别加以验证,结果表明以集成分类器的分类错误率为适应度函数的遗传算法搜索出的最优加权系数矩阵相比其它方法产生的系数矩阵在解决consistent-diverse平衡问题更具有优越性.     

基于L1-Graph表示的标记传播多观测样本分类算法

同类样本被认为是分布在同一个高维观测空间的低维流形上,针对多观测样本分类如何利用这一流形结构的问题,提出基于L1 -Graph表示的标记传播多观测样本分类算法.首先基于稀疏表示的思路构造L1 -Graph,进而得到样本之间的相似度矩阵,然后在半监督分类标记传播算法的基础上,限制所有的观测样本都属于同一个类别的条件下,得到一个具有特殊结构的类标矩阵,最后把寻找最优类标矩阵的计算转化为离散目标函数优化问题,进而计算出测试样本所属类别.在USPS手写体数据库、ETH- 80物体识别数据库以及Cropped Yale人脸识别数据库上进行了一系列实验,实验结果表明了本文提出方法的可行性和有效性.     

统计和瞬时CSI混合的3D MIMO预编码

本文针对分别具有统计信道状态信息（Channel State Information,CSI）和瞬时CSI的用户,研究了两类用户在三维多输入多输出（Three-Dimension Multiple-Input Multiple-Output,3D MIMO）系统中的下行链路传输模式,解决了混合利用统计和瞬时CSI的下行预编码的设计问题。利用3D MIMO信道的克罗内克积的性质,提出了一种用于最小化基站总发射功率的扩展迫零预编码的方法,并分别求解其最优水平预编码矩阵和最优垂直预编码矩阵。仿真结果表明,该方案具有更低的复杂度和良好的速率。      

毫米波大规模MIMO系统中低复杂度混合预编码方法

针对毫米波大规模多输入多输出(MIMO)系统混合预编码方案设计的难点,提出了一种低复杂度混合预编码方法。首先基于奇异值分解,构造初始射频(RF)预编码矩阵,然后构造数字预编码矩阵。进而将残差矩阵最大左奇异矢量构造的矢量添加到RF矩阵的最后一列,以更新初始RF矩阵。经过多次迭代,从而形成最终RF预编码矩阵。最后基于最小二乘准则设计数字预编码矩阵。理论分析和仿真结果表明,相比于基于正交匹配追踪(OMP)算法的混合预编码设计方法,该方法在计算复杂度大幅下降的同时,其性能远远优于基于OMP算法的混合预编码方法,同时在数据流数相对较小时,其性能接近最优的全数字预编码设计方法。     

全双工无线通信系统的智能安全中继选择策略

全双工技术理论上可以使频谱效率提升一倍,将其应用于双向中继系统,能进一步提升系统的频谱效率。考虑残余自干扰与信道环境,以安全容量最大化为目标进行中继选择,将该选择优化问题建模为多分类问题,提出了一种基于卷积神经网络（CNN）的智能中继选择策略。在设计分类模型时利用CNN提取信道的空间相关性,设置卷积核的维度与中继数目相关,为了保留输入特征的矩阵特性未使用池化层。仿真结果表明,在降低计算复杂度和减少反馈开销的情况下,基于CNN的分类器具有更高的分类准确率,能获得与传统最优中继选择方案一致的安全容量。     

K插值单纯形法核极限学习机的研究

针对核极限学习机高斯核函数参数选优难,影响学习机训练收敛速度和分类精度的问题,该文提出一种K插值单纯形法的核极限学习机算法。把核极限学习机的训练看作一个无约束优化问题,在训练迭代过程中,用Nelder-Mead单纯形法搜索高斯核函数的最优核参数,提高所提算法的分类精度。引入K插值为Nelder-Mead单纯形法提供合适的初值,减少单纯形法的迭代次数,提高了新算法的训练收敛效率。通过在UCI数据集上的仿真实验并与其它算法比较,新算法具有更快的收敛速度和更高的分类精度。     

一种基于改进子空间划分的波段选择方法

高光谱图像具有光谱分辨率高、波段连续、数据量大、图谱合一等特点。然而较高的光谱分辨率会造成波段间相关性强,信息冗余多。所以如何从数百个高光谱波段中选出有利于识别或分类的波段组合成为了高光谱应用需要解决的问题。文章针对相邻波段间相关性较大的特点,提出一种改进的对波段相关矩阵进行全局搜索的子空间划分的波段选择方法。该方法克服了传统只利用相关向量对波段进行划分的缺陷,利用整个相关矩阵进行全局搜索划分,再在划分后的子空间内进行波段选择,从而降低了波段之间的相关性。文章最后使用上述方法对AVIRIS数据进行波段选择,并通过SVM方法对其进行地物分类,结果表明该方法较不进行子空间划分的波段选择方法有较高的分类精度。     

基于CHI与遗传算法的特征选择

在基于Web文本信息过滤系统中通过特征选择找到的最优特征子集直接影响到分类的速度及精度。针对此问题，提出了综合CHI及遗传算法的特征选择方法。首先针对原始特征集，采用CHI统计法进行初始筛选，去除冗余特征及噪声后，对得到的特征子集再采用遗传算法进行第二次特征选择，从而得出代表问题空间的最优特征子集，实现降维并提高了分类精度。     

基于图注意力网络的服务功能链路径优化研究

服务功能链(SFC)路径生成旨在为用户提供高速率、低延迟的多样化网络功能定制服务。现有的SFC路径选择算法大多都针对特定网络拓扑结构或使用单一评价指标,存在泛化性弱、评价标准单一的问题。针对此,该文提出基于图注意力网络(GAT)的SFC路径选择优化模型(SFC-GAT),其核心不再固定网络拓扑结构,而是将SFC路径选择问题建模为路径注意力问题。通过重新设计路径选择图和路径更新策略方式,增强模型泛化性;从时延和负载能力综合角度评价路径优化效果,解决路径性能单一评价问题。仿真实验结果表明：相比于约束下最短路径和最小过载路径选择策略,SFC-GAT至少能提高12%和7%选择路径综合性能。     

Optimal search-based gene subset selection for gene array cancer classification.

High dimensionality has been a major problem for gene array-based cancer classification. It is critical to identify marker genes for cancer diagnoses. We developed a framework of gene selection methods based on previous studies. This paper focuses on optimal search-based subset selection methods because they evaluate the group performance of genes and help to pinpoint global optimal set of marker genes. Notably, this paper is the first to introduce tabu search (TS) to gene selection from high-dimensional gene array data. Our comparative study of gene selection methods demonstrated the effectiveness of optimal search-based gene subset selection to identify cancer marker genes. TS was shown to be a promising tool for gene subset selection.     

二进制猫群算法在大规模MIMO天线选择中的应用

在多输入多输出(MIMO)系统中,天线选择技术平衡了系统的性能和硬件开销,但大规模MI-MO系统收发端天线选择复杂度问题一直没有得到很好的解决.基于信道容量最大化的准则,采用两个二进制编码字符串分别表示发射端和接收端天线被选择的状态,提出将二进制猫群算法(BCSO)应用于多天线选择中,以MIMO系统信道容量公式作为猫群的适应度函数,将收发端天线选择问题转化为猫群的位置寻优过程.建立了基于BCSO的天线选择模型,给出了算法的实现步骤.仿真结果表明所提算法较之于基于矩阵简化的方法、粒子优化算法具有更好的收敛性和较低的计算复杂度,选择后的系统信道容量接近于最优算法,非常适用于联合收发端天线选择的大规模MIMO系统中.     

一种基于相异度的接收天线选择算法

对于多输入多输出系统天线选择算法而言,穷尽搜索算法能够达到最优的性能,但包含较多矩阵运算,计算复杂度较高。而传统基于相关度和相似度的天线选择算法虽具有较低计算量,但损失了较大的容量性能。针对这一问题,以容量性能为目标,提出了基于相异度的接收天线选择算法,分析了不同相异度下所提选择准则对系统性能的影响。与传统相关度和相似度天线选择算法相比,所提算法有效降低了计算复杂度,改善了系统的容量性能,仿真结果表明:所提算法具有较好的系统性能,适用于实时通信系统。     

基于多域并行编码的高速IPv6流分类

IPv6的多域流分类是高速路由器设计中的一个难点.本文提出了一种使用TCAM的高速IPv6流分类方案,其核心思想是:(1)区分IPv6包头5个域字段的不同特征,根据IPv6地址的特征及其分配信息对其进行压缩,对TCP端口域实施扩展的层次编码,根据统计数据对协议域进行压缩,最终结果是把原始域的296比特转换成280比特的查找关键字,与TCAM的表项宽度相匹配;(2)使用嵌入SSRAM表查找技术,对5个域并行进行独立编码,消除瓶颈编码环节,达到线速处理要求;(3)分类规则数据库按照本文预设计的编码方式存储在TCAM中,使用流水线技术让域的编码操作和查找操作并行执行,每个TCAM访存周期完成一次查找操作.同时,为解决范围匹配问题,本文设计了一种预定义位宽的动态范围编码算法,既节省了TCAM的存储空间,又提高了硬件规则库的更新速度.分析和仿真表明,当路由查找和流分类共用一个TCAM时,使用较低的工作频率(66MHz),流分类和路由查找速度均可达到22Mpps,满足高速OC-192接口的线速查找与流分类要求.