局部约束加强的最小二乘回归子空间聚类*

针对最小二乘回归子空间聚类算法存在的数据局部相关性信息缺失、系数矩阵稀疏性不足的缺点,提出局部约束加强的最小二乘回归子空间聚类算法.在原始的最小二乘回归子空间聚类算法的基础上加入数据局部相关性约束,使表示系数矩阵的块对角性质更明显.同时,提出相似度矩阵构造方法,有效提高类内相似度,降低类间相似度.实验表明文中算法可以有效提高聚类的精确度,从而验证算法有效可行.     

权自适应最小二乘回归子空间分割法

基于表示理论的子空间分割方法有着广泛的应用。经典的子空间分割方法通过不同的正则项求解仿射矩阵,而忽略了特征属性对子空间分割的影响。针对这些问题,通过特征权重自适应的思想对最小二乘回归子空间分割方法进行改进,提出权自适应最小二乘回归子空间分割方法。在6个数据集上的实验结果表明该方法是有效的。     

一种改进的最小二乘回归子空间分割方法

最小二乘回归(LSR)算法是一种常见的子空间分割方法，由于LSR具有解析解，因此它的聚类性能较高。然而LSR算法是应用谱聚类方法聚类数据，谱聚类方法初始化聚类中心是随机的，会影响后面的聚类效果。针对这一问题，提出一种基于聚类中心局部密度和距离这2个特点的改进的LSR算法（LSR-DC）。在Extended Yale B数据集上进行实验，结果表明，该算法有较高的聚类精度，具有一定的鲁棒性，优于现有LSR等子空间分割方法。     

流形降维最小二乘回归子空间分割

子空间分割方法一直是一种重要的机器学习方法,这些方法在人脸识别和基因表达数据识别等研究中有较好的聚类准确率。然而,这些方法在对高维小样本数据进行聚类时难以取得理想的结果。为了解决这些问题,借鉴流形降维中的局部保持投影法和最小二乘回归子空间分割法,提出流形降维最小二乘回归子空间分割法。该方法通过局部保持投影进行降维,再利用最小二乘回归子空间分割方法实现聚类。在6个生物基因表达数据集和2个图像数据集上的实验表明了该方法的有效性。     

融入距离信息的最小二乘回归子空间分割

有效分类基因表达数据有助于癌症的诊断,而基因表达数据的高维数、小样本特点使基因表达数据分类困难。针对这个问题,在最小二乘回归子空间分割算法中考虑距离信息,提出融入距离信息的最小二乘回归子空间分割算法。融入距离信息的最小二乘回归子空间分割模型除了考虑数据之间的相关性,还考虑了数据之间的距离信息。在基因表达数据集上的实验结果表明,所提出的算法是有效的聚类方法。     

基于协同表示的子空间聚类*

针对稀疏子空间聚类(SSC)求得的系数矩阵过于稀疏和最小二乘回归子空间聚类(LSR)求得的系数矩阵过于稠密的问题,文中提出基于协同表示的子空间聚类算法(SCCR).结合SSC和LSR的优点,将l₁范数和Frobenius范数引入同一优化问题中,使系数矩阵保证在同一子空间数据点联系(如LSR)的同时,消除不同子空间数据点之间的联系(如SSC).然后利用此系数矩阵建立相似矩阵,应用谱聚类得到聚类结果.实验表明SCCR可以提高聚类性能.     

混合最小二乘回归的稀疏子空间聚类算法

稀疏子空间聚类的关键在于在求得真实反映数据集的相似度矩阵,然后将相似度矩阵代入谱聚类求解。相似度矩阵既要刻画数据集的子空间特性,同时也要反映出同一类数据点之间的两两相关程度,稀疏子空间聚类(SSC)专注于每一个数据表示系数的最大稀疏性,缺乏对数据集全局结构的描述;最小二乘回归(LSR)保证了同一类数据的结构相关性,但是不够稀疏。将最小二乘回归引入稀疏子空间聚类算法中,从而保证数据的相似度矩阵兼具稀疏性和分组效应。在运动分割和人脸聚类的实验中,将该算法和SSC、LSR算法对比,可以发现该算法在准确率上的优势。     

系数增强最小二乘回归子空间聚类法

针对最小二乘回归子空间聚类法在求解表示系数时忽略了样本相似度的不足,提出改进方法。基于样本相互重构的表示系数矩阵和样本相似度矩阵有很大的关联定义系数增强项,求解可以保持样本相似度的表示系数矩阵,提出系数增强最小二乘回归子空间聚类法。在8个标准数据集上的实验表明该方法可以提高最小二乘回归子空间聚类法的聚类性能。     

基于最小二乘回归的分块加权子空间聚类*

传统子空间聚类算法向量化时忽略样本的自然结构信息,并且容易造成高维度小样本问题,从而导致聚类信息损失.为了弥补该缺陷,文中提出基于最小二乘回归的分块加权子空间聚类(WB-LSR).首先,将样本按维度分成若干块,并求得各个块对应的仿射矩阵.然后,通过相互投票方式对各仿射矩阵设置权重,将加权和作为最终的仿射矩阵.在图像数据和视频数据上的实验表明,文中方法能有效提升聚类准确率.     

基于迁移子空间学习的偏最小二乘回归软测量方法

针对流程工业中工况改变易导致当前样本与历史样本分布失配,传统软测量模型失准的问题,考虑工业数据时序性、动态性以及存在过程漂移等特性对建模的影响,提出一种基于迁移子空间学习的偏最小二乘回归软测量方法.首先,回归框架采用非线性迭代偏最小二乘方法,对其求解映射向量的目标函数施加基于子空间重构的域适应正则项,映射过程中保证当前工况中每个样本能够被历史工况样本线性重构.在此基础上对重构矩阵施加低秩稀疏约束,保持数据结构的同时使重构矩阵具备块状结构以应对过程漂移特性.将所提出方法在1个数值案例和3个不同的多工况数据集中进行实验,并与现有域适应回归方法进行对比分析.实验表明,所提出方法能够有效提高模型在跨工况条件下的预测精度,减少工况间数据分布差异对模型性能的影响.     

基于判别最小二乘回归的局部保留子空间学习算法

近几年稀疏表示在降维领域的成功应用引起了人们的广泛关注。针对稀疏表示能够有效提取出相同类内部样本间和不同类之间的稀疏性,却具有高复杂度求解过程和存在丢失数据结构关键信息的缺点进行了研究,提出了判别最小二乘局部保持投影(DLSLPP)算法。DLSLPP算法利用最小二乘回归充分而完整的提取了数据之间的结构信息,同时利用最小二乘回归具有数值解的优势降低了算法的复杂度。此外,DLSLPP算法采用不同于传统算法的新型加权平均方式构造数据代表样本增强了算法的判别能力。在四个图像分类数据集和四个算法上的对比实验表明DLSLPP算法能够达到十分优异的效果。     

基于最小二乘支持向量回归的水质预测

水质系统是一个开放的、复杂的、非线性动力学系统,具有时变复杂性,针对水质预测方法的研究虽然已经取得了一些成果,但也存在预测精度与计算复杂度等难题。为此,本文提出一种基于最小二乘支持向量回归的水质预测算法。支持向量机是机器学习中一种常用的分类模型,通过核函数将非线性数据从低维映射到高维空间,在高维空间实现线性分类和回归,最小二乘支持向量回归（LS-SVR）利用所有的样本参与回归拟合,使得回归的损失函数不再只与小部分支持向量样本有关,而是由所有样本参与学习修正误差,提高预测精度;同时该算法将标准SVR求解问题由不等式的约束条件及凸二次规划问题转化成线性方程组来求解,提高了运算速度,解决了非线性复杂特性的水质预测问题。     

基于径基函数-加权偏最小二乘回归的干点软测量

针对影响石油馏分产品干点因素众多且呈高度非线性的特征,提出了一种径基函数(Radial basis function,RBF)和加权偏最小二乘回归(Weighted partial least squares regression,WPLSR) 相结合的建模方法建立干点软测量模型. 该组合方法首先应用RBF 实现样本数据的非线性变换;然后根据非线性变换后样本在结构参数空间中的分布,分析它们对预测对象的预报能力,自适应地为各个样本分配权值,并进而从中提取和选用PLS 成分,实施加权PLSR,以获得预报性能良好的模型. 在实际应用于初顶石脑油干点软测量建模中,RBF-WPLSR 获得比PLSR、WPLSR 及RBF-PLSR 更高精度的模型.     

基于传输互表达的基因表达数据聚类分析

针对基因表达数据基于表达相似的聚类分析并不能完全揭示基因之间的功能相似问题,结合基因的传输互表达关系,提出基于传输互表达的聚类分析方法。首先用基因的表达相关来构建基因相关图,然后通过最短路分析来获得基因之间传输互表达关系并作为基因的相似测度,再用k-均值聚类算法进行聚类分析。对Yeast基因表达数据进行聚类实验,并与基于表达相似的聚类结果对比。实验结果表明,基于传输互表达的聚类方法能获得更好的聚类性能和较高的聚类正确率,验证基于传输互表达的基因聚类更能揭示基因相似的本质。     

GEP在数字图像分割中的应用

基因表达式程序设计（简称GEP）是一种新型的遗传算法，它继承了遗传程序设计（简称GP）和遗传算法（简称GA）的优点并且具有更高效和更强的搜索能力，它是借鉴生物选择和进化机制发展起来的一种高度并行、随机、自适应的搜索算法。特别适合于处理传统搜索算法解决不好的复杂的和非线性问题。本文将在系统介绍表达式程序设计的基本理论基础上．介绍其在数字图像分割中的应用。     

基于最小二乘支持向量机的函数型数据回归分析

部分函数线性模型是用于处理输入变量包含函数型和数值型两种数据类型而输出变量为数值的一类回归机.为提高该模型的预测精度,基于函数系数在再生核Hilbert空间上的表示,得到模型的结构化表示,将函数系数的估计转化为参数向量的估计问题,并运用最小二乘支持向量机方法得到参数估计形式.实验表明,文中算法对数值型数据的向量系数的估计与其他参数估计方法性能相近,但对函数型数据的函数系数的估计更加准确稳健,有助于确保学习机的预测精度.