低秩稀疏图嵌入的半监督特征选择

目的 特征降维是机器学习领域的热点研究问题。现有的低秩稀疏保持投影方法忽略了原始数据空间和降维后的低维空间之间的信息损失，且现有的方法不能有效处理少量有标签数据和大量无标签数据的情况，针对这两个问题，提出基于低秩稀疏图嵌入的半监督特征选择方法（LRSE）。方法 LRSE方法包含两步：第1步是充分利用有标签数据和无标签数据分别学习其低秩稀疏表示，第2步是在目标函数中同时考虑数据降维前后的信息差异和降维过程中的结构信息保持，其中通过最小化信息损失函数使数据中有用的信息尽可能地保留下来，将包含数据全局结构和内部几何结构的低秩稀疏图嵌入在低维空间中使得原始数据空间中的结构信息保留下来，从而能选择出更有判别性的特征。结果 将本文方法在6个公共数据集上进行测试，对降维后的数据采用KNN分类验证本文方法的分类准确率，并与其他现有的降维算法进行实验对比，本文方法分类准确率均有所提高，在其中的5个数据集上本文方法都有最高的分类准确率，其分类准确率分别在Wine数据集上比次高算法鲁棒非监督特征选择算法（RUFS）高11.19%，在Breast数据集上比次高算法RUFS高0.57%，在Orlraws10P数据集上比次高算法多聚类特征选择算法（MCFS）高1%，在Coil20数据集上比次高算法MCFS高1.07%，在数据集Orl64上比次高算法MCFS高2.5%。结论 本文提出的基于低秩稀疏图嵌入的半监督特征选择算法使得降维后的数据能最大限度地保留原始数据包含的信息，且能有效处理少量有标签样本和大量无标签样本的情况。实验结果表明，本文方法比现有算法的分类效果更好，此外，由于本文方法基于所有的特征都在线性流形上的假设，所以本文方法只适用于线性流形上的数据。

Semi-supervised feature selection based on low-rank sparse graph embedding