基于多尺度高斯核的分布式正则化回归学习算法

针对工业、信息等领域出现的基于较大规模、非平稳变化复杂数据的回归问题,已有算法在计算成本及拟合效果方面无法同时满足要求.因此,文中提出基于多尺度高斯核的分布式正则化回归学习算法.算法中的假设空间为多个具有不同尺度的高斯核生成的再生核Hilbert空间的和空间.考虑到整个数据集划分的不同互斥子集波动程度不同,建立不同组合系数核函数逼近模型.利用最小二乘正则化方法同时独立求解各逼近模型.最后,通过对所得的各个局部估计子加权合成得到整体逼近模型.在2个模拟数据集和4个真实数据集上的实验表明,文中算法既能保证较优的拟合性能,又能降低运行时间.     

局部惩罚加权核偏最小二乘算法及其应用

为改善软测量模型精度,提出了一种局部惩罚加权核偏最小二乘算法.该方法通过核映射将原始输入映射到高维特征空间实现对非线性问题的线性化处理,并通过偏最小二乘算法进行主成分提取,降低数据维数;对由主成分构成的新数据集,依据局部学习思想构建局部惩罚加权最小二采回归模型,降低模型对异常数据的敏感度、优化模型参数.鉴于多模型可以改...     

基于正则化最小二乘的局部判别投影的人脸识别

受子空间学习和正则化技术的启发,提出正则化最小二乘的局部判别投影,为了获得投影子空间,首先构建类内和类间图,然后推导出计算公式,再使用正则化最小二乘法解出子空间,与普通算法相比,该算法既保持了流形的局部几何结构,又保持了判别结构,在标准人脸数据库上的实验表明该算法有效.     

加权最小二乘法改进遗传克里金插值方法研究

数据内插被广泛应用于地统计分析领域,克里金插值作为其中最为有效的方法之一,其原理是通过建立变异函数理论模型,得到可靠的权重值和拉格朗日系数,构成求解待测点的线性组合。为了有效地提高插值精度,文中利用加权最小二乘法优化遗传算法中的适应度函数,进而改进普通基于遗传算法优化的克里金插值方法。并且在MATLAB中利用外部工具箱确定模型参数,最后通过实例验证,将该方法与普通克里金插值以及遗传克里金插值结果进行对比,发现采用该方法,插值效果较好且误差也较小,证明了通过加权最小二乘法可以有效改进普通遗传克里金插值方法。     

基于改进PSO优化LSSVM的传感器补偿研究

针对最小二乘支持向量机在对传感器进行补偿时,正则化参数和核函数参数对补偿精度影响较大的问题,提出一种利用改进的粒子群优化算法优化最小二乘支持向量机模型参数的传感器补偿方法。该方法利用改进的粒子群优化算法优化最小二乘支持向量机模型的正则化参数和核函数参数,避免了人工选择参数的盲目性,提高了最小二乘支持向量机模型的预测精度。仿真实验表明,在传感器的补偿时,该方法比最小二乘支持向量机模型的补偿精度更高。     

自适应加权全变分的低剂量CT统计迭代算法

针对低剂量计算机断层扫描（LDCT）重建图像时出现条形伪影和脉冲噪声的现象,提出一种自适应加权全变分的LDCT统计迭代重建算法。该算法克服了传统全变分（TV）算法在去除条形伪影的同时引入阶梯效应的缺点,把基于加权方差的加权因子与TV模型相结合提出自适应加权全变分模型,然后再把新模型应用到惩罚加权最小二乘（PWLS）重建算法中,这样就可以对图像的不同区域进行不同强度的去噪,从而取得噪声抑制和边缘保持的良好效果。采用Shepp-Logan模型和数字骨盆体模来验证算法的有效性,实验结果表明,所提算法的归一化均方距离和归一化平均绝对距离均比滤波反投影（FBP）、PWLS、惩罚加权最小二乘的中值先验（PWLS-MP）以及惩罚加权最小二乘的全变分（PWLS-TV）算法的值小,且可分别获得40.91 dB和42.25 dB的峰值信噪比。实验结果表明,该算法重建出的图像在有效去除条形伪影的同时对图像的边缘和细节起到很好的保护作用。     

一种模糊最小二乘孪生支持向量回归机的改进算法

模糊最小二乘孪生支持向量机模型融合了模糊函数和最小二乘孪生支持向量机算法特性,以解决训练数据集存在孤立点噪声和运算效率低下问题。针对回归过程基于统计学习结构风险最小化原则,对该模型进行L_2范数正则化改进。考虑到大规模数据集的训练效率问题,对原始模型进行了L_1范数正则化改进。基于增量学习特性,对数据集训练过程进行增量选择迭加以加快训练速度。在UCI数据集上验证了相关改进算法的优越性。     

一种基于Cholesky分解的动态无偏LS-SVM学习算法

针对最小二乘支持向量机用于在线建模时存在的计算复杂性问题,提出一种动态无偏最小二乘支持向量回归模型.该模型通过改进标准最小二乘支持向量机结构风险的形式消除了偏置项.得到了无偏的最小二乘支持向量机,简化了回归系数的求解.根据模型动态变化过程中核函数矩阵的特点,设计了基于Cholesky分解的在线学习算法.该算法能充分利用历史训练结果,减少计算复杂性.仿真实验表明了所提出模型的有效性.     

稀疏最小二乘支持向量机及其应用研究

提出一种构造稀疏化最小二乘支持向量机的方法．该方法首先通过斯密特正交化法对核矩阵进 行简约,得到核矩阵的基向量组;再利用核偏最小二乘方法对最小二乘支持向量机进行回归计算,从而使最 小二乘向量机具有一定稀疏性．基于稀疏最小二乘向量机建立了非线性动态预测模型,对铜转炉造渣期吹炼 时间进行滚动预测．仿真结果表明,基于核偏最小二乘辨识的稀疏最小二乘支持向量机具有计算效率高、预 测精度好的特点．     

多尺度最小二乘小波支持向量机的回归建模

普通最小二乘支持向量机算法用于多尺度回归建模时精度较低。针对该问题,选取墨西哥草帽小波函数作为最小二乘支持向量机的核函数,设计一种基于小波核的多尺度最小二乘小波支持向量机。在此基础上,通过解二次优化问题求出多尺度回归建模问题的全局最优解,最终得出的多尺度回归模型能够有效地逼近多尺度信号。仿真结果表明,该算法具有较高的精度。     

基于最小二乘法的冗余信息数据融合算法实现

为了有效融合多传感器冗余系统量测信息,使状态的估计值更接近于状态的真实值,实现高精度和高可靠性的状态估计,采取了基于最优加权的最小二乘算法、有限窗加权的最小二乘算法和自学习加权最小二乘算法,分别对多传感器实测数据进行融合处理,融合后数据的方差大幅度降低,估计精度显著提高。并与传统的最小二乘算法进行了仿真对比,结果表明,这3种方法较最小二乘算法融合精度更高,其中,自学习加权的最小二乘融合算法既考虑了历史数据的作用,又考虑了环境噪声和新的采样值的影响,增强了对噪声检测的敏感性,估计效果较好。     

最优加权与递推最小二乘法相结合的多传感器信息融合

为改善多个同类传感器检测目标参数的性能,提出了根据各传感器量测数据品质对量测数据加权处理,并将加权后的数据作为递推最小二乘法的实时量测值的最优加权与递推最小二乘法相结合的多传感器信息融合方法.仿真结果表明,该方法在数据处理的精确性和稳健性方面都优于普通的处理方法.     

基于稳健最小二乘支持向量机的测深激光信号处理

针对浅海探测中激光回波噪声源多、信噪比低,传统非加权最小二乘支持向量机和加权最小二乘支持向量机对低信噪比信号滤波不足的问题,提出将稳健最小二乘法与加权最小二乘支持向量机相结合的滤波方法(HW-LS-SVM)。首先采用强淘汰权函数计算先验权值、残差和均方误差,然后采用权函数模型计算最小二乘支持向量机的权值,最后通过迭代计算实现回波信号滤波。通过仿真实验结果表明, HW-LS-SVM方法较最小二乘支持向量机、贝叶斯最小二乘支持向量机和传统加权最小二乘支持向量机滤波效果更加稳健,在噪声率为45%的情况下,滤波效果较为理想,水面和水底回波提取正确率为100%;对实测4组深水区和4组浅水区数据滤波后提取的海水深度均与背景资料的深度吻合。由此表明, HW-LS-SVM方法具有更好的抗噪性,更适合于对信噪比低的测深激光信号的滤波处理。     

最小二乘法在PLC模拟量测量系统标定中的应用

针对工程实际应用中,PLC多模拟量测量系统在干扰和设备温度漂移等多种因素的影响下,测试的不准确问题,提出了一种基于最小二乘法回归数学模型的PLC模拟量标定方法.根据最小二乘法的思想,推导了适合于PLC标定的具体计算过程,并给出了具体应用实例.实验结果表明,最小二乘法的拟合精度优于拉格朗日线性插值法,而且基于最小二乘法的PLC模拟量标定精度很高,从而保障了后续计算的精度.     

一种应对非平稳频率失调的窄带主动噪声控制系统

在窄带主动噪声控制(Active noise control, ANC)系统中, 参考信号频率失调(Frequency mismatch, FM)和噪声信号非平稳将会使系统性能下降, 甚至失效. 本文提出一种基于动量最小均方的改进FM补偿算法, 通过在代价函数中引入加权累加的平方误差, 提升系统的追踪和收敛能力. 并分别与基于滤波-X 最小均方(Filtered -X least mean square, FXLMS)、滤波-X 递归最小二乘(Filtered -X recursive least square, FXRLS)和变步长滤波-X最小均方(Variable step-size filtered -X least mean square, VSS-FXLMS)算法的主控制系统结合, 共同完成系统综合性能的提高. 大量仿真分析表明, 新的FM补偿算法在非平稳的FM和离散傅里叶系数翻转的条件下仍能保持较高的追踪能力和合理的残余误差.     

采用有限时间平均一致性协议的电力系统分布式状态估计

随着基于相量量测单元的广域量测系统在技术上的成熟与推广应用,利用WAMS量测可实现电力系统线性状态估计.本文基于广域量测系统提出一种全分布式状态估计算法.首先根据拉格朗日乘子法推导了多区域约束加权最小二乘估计模型,然后引入有限时间平均一致性协议,得到系统量测正常情况下的分布式状态估计算法.考虑了系统量测存在异常数据情况,根据最小二乘估计的几何意义扩展推导出修正算法,使其在各区域剔除异常量测后,无需改变信息矩阵,只需执行若干次有限时间平均一致性协议能收敛至信息矩阵修正后的集中式估计值.最后,理论分析和实验结果证明了算法的有效性.     

基于改进型Retinex算法的彩色图像增强技术

由于单尺度Retinex算法在处理过程中会产生光照强度问题导致图像细节表达不细致,提出一种改进的基于单尺度Retinex(SSR)算法的 真彩图像增强算法。首先,使用加权最小二乘法对原始彩色图像进行细节增强,然后对原始图像进行优化。对处理后的图像层和细节图像层构造增益系数,并进行重构输出一幅新的合并图像。实验结果表明,所提算法能够有效减少图像中的噪声,并使图像细节和对比度更加突出,亮度增强。相比于其它传统的算法,改进型Retinex算法处理后的图像客观评价指标有大幅度提升,图像增强能力有大幅改善。     

基于加权随机森林的图像超分辨率算法研究

针对目前图像超分辨率重建效果欠佳的问题,提出一种基于加权随机森林的图像超分辨率重建算法.利用随机森林对图像块的特征进行聚类,并引入岭回归模型建立每类叶子结点中高、低分辨率图像块的映射关系,重建时根据测试低分辨率图像块所属的类别以及在每类叶子结点中的K近邻近似拟合误差,进行加权预测获得高分辨率图像块.将图像的非局部自相似性与迭代反投影算法相结合对预测的高分辨率图像进行后处理以提高重建质量.实验结果表明,所提出算法可以有效提高峰值信噪比,具有较好的可视效果.