在线鲁棒最小二乘支持向量机回归建模

鉴于工业过程的时变特性以及现场采集的数据通常具有非线性特性且包含离群点,利用最小二乘支持向量机回归（least squares support vector regression,LSSVR）建模易受离群点的影响.针对这一问题,结合鲁棒学习算法（robust learning algorithm,RLA）,本文提出了一种在线鲁棒最小二乘支持向量机回归建模方法.该方法首先利用LSSVR模型对过程输出进行预测,与真实输出相比较得到预测误差;然后利用RLA方法训练LSSVR模型的权值,建立鲁棒LSSVR模型;最后应用增量学习方法在线更新鲁棒LSSVR模型,从而得到在线鲁棒LSSVR模型.仿真研究验证了所提方法的有效性.     

RBF网络的鲁棒最小二乘学习算法

首先,针对径向基函数(RBF)神经网络参数学习中最小二乘法(LS)难以获得较高鲁棒性的问题,假定训练数据扰动上界可知,并基于鲁棒最小二乘原理,提出一种RBF网的最优鲁棒参数学习算法;然后分析指出,扰动上界可依据训练数据集自适应学习估计;最后通过实验分析结果表明了所提算法具有较高的参数鲁棒学习能力.与LS相似,新算法无额外参数,易于实际应用.     

l1鲁棒辨识:最小二乘算法及试验设计

现有的l^1鲁棒辨识方法依赖于观测数据窗的起始时刻因而不能用来辨识时变系统,针对该问题基于最小二乘法提出了一种l^1鲁棒辨识算法．该算法与观测窗的起始时刻无关,可用于时变系统的辨识．证明了当试验输入为持续激励信号时所提出的算法为本质最优算法,进一步证明了周期持续激励序列为最优试验信号,并给出了辨识误差紧界的计算公式．最后利用提出的算法研究了慢时变系统的l^1鲁棒辨识问题．     

鲁棒最小二乘支持向量回归机

针对最小二乘支持向量回归机(LS-SVR)对异常值较敏感的问题,通过设置异常值所造成的损失上界,提出一种非凸的Ramp损失函数。该损失函数导致相应的优化问题的非凸性,利用凹凸过程(CCCP)将非凸优化问题转化为凸优化问题。给出Newton算法进行求解并分析了算法的计算复杂度。数据集测试的结果表明,与最小二乘支持向量回归机相比,该算法对异常值具有较强的鲁棒性,获得了更优的泛化能力,同时在运行时间上也具有明显优势。     

基于鲁棒最小二乘支持向量机的气动参数拟合

最小二乘支持向量机（LS－SVM）比标准支持向量机具有更高的计算效率,但是却散失了标准支持向量机的稀疏特性,而且当考虑异常值或者误差变量的高斯假设不成立时,会导致不稳健的估计结果。为了克服这两个缺点,在飞行器的气动参数拟合计算中引入了一种鲁棒最小二乘支持向量机（RLS－SVM）,该方法通过加权的支持向量机来获得鲁棒估计,并通过对支持值谱进行剪枝最终得到稀疏解。仿真结果表明：RLS－SVM方法简单,学习速度快,拟合精度高,鲁棒性强,是一种在飞行器轨迹计算中值得推广和采用的方法。     

基于鲁棒最小二乘的选矿流程数据校正方法研究

精确稳定的选矿生产过程数据可以用来流程考察、流程模拟、过程优化控制、生产考核、质量检验和决策管理;文章基于实际的选矿流程的矿物固体产率平衡、元素平衡、粒级产率平衡、粒级元素平衡约束,给出了选矿流程的数据校正模型,并采用鲁棒最小二乘法对实际选矿过程数据进行了数据校正;选矿过程校正后的数据满足物料平衡和元素平衡要求,给生产提供了正确的指导,可使生产流程在最佳工艺参数下运行。     

基于鲁棒学习的最小二乘支持向量机及其应用

鉴于最小二乘支持向量机比标准支持向量机具有更高的计算效率和拟合精度,但缺少标准支持向量机的鲁棒性,即当采样数据存在奇异点或者误差变量的高斯分布假设不成立时,会导致不稳健的估计结果,提出了一种鲁棒最小二乘支持向量机方法.该方法在最小二乘支持向量机基础上,通过引入鲁棒学习方法来获得鲁棒估计.仿真分析及某湿法冶金厂的应用实例验证了该方法的可行性和有效性.     

改进的鲁棒总体最小二乘无源定位算法

针对机载无源定位易受异常误差影响的问题,提出一种基于角度信息的鲁棒递推总体最小二乘定位（RRTLS）算法。建立机载无源定位模型,得出总体最小二乘（TLS）解,根据机载定位的实时性、低复杂度要求将其转化为加权递推形式;根据广义M估计原理构建鲁棒TLS极值准则,利用其性质将RRTLS定位问题转化为等价权函数的设计问题;验证了利用残差识别异常误差的合理性,在此基础上建立了等价权函数。仿真结果表明,不存在异常误差时,递推总体最小二乘（RTLS）算法和RRTLS算法均能较好收敛;存在异常误差时,递推最小二乘（RLS）和RTLS定位结果受到扭曲,而RRTLS算法能够获得理想的估值,具有较强的鲁棒性。     

鲁棒最小二乘孪生支持向量机及其稀疏算法

最小二乘孪生支持向量机通过求解两个线性规划问题来代替求解复杂的二次规划问题,具有计算简单和训练速度快的优势。然而,最小二乘孪生支持向量机得到的超平面易受异常点影响且解缺乏稀疏性。针对这一问题,基于截断最小二乘损失提出了一种鲁棒最小二乘孪生支持向量机模型,并从理论上验证了模型对异常点具有鲁棒性。为使模型可处理大规模数据,基于表示定理和不完全Cholesky分解得到了新模型的稀疏解,并提出了适合处理带异常点的大规模数据的稀疏鲁棒最小二乘孪生支持向量机算法。数值实验表明,新算法比已有算法分类准确率、稀疏性、收敛速度分别提高了1.97%~37.7%、26~199倍和6.6~2 027.4倍。     

有序子集最小二乘OS—LS图像重建迭代算法

为推导一种新的快速图像迭代重建方法，首先将有序子集(ordered subsets，OS)技术应用到最小二乘图像重建迭代算法(least square reconstruction，LS)；然后对仿真Phantom模型数据和实际医用正电子发射断层成像仪(PET)数据进行重建，并研究了在不同子集划分下的重建结果，同时分析比较了不同子集的选取对OS—LS重建罔像质量以及重建收敛速度的影响。重建结果表明，这种基于有序子集的最小二乘图像重建迭代算法(OS—LS)具有较高的重建图像质量和较短的计算时间，相对于传统LS算法的重建，OS—LS的收敛速度加速了约L倍(L为子集个数)．其重建图像质量也好于传统的滤波反投影(FBP)方法的重建．町应用在PET图像重建中。     

非线性多功能传感器信号重构的抗差估计方法研究

在非线性多功能传感器的信号重构过程中,训练样本集不可避免地夹杂粗差数据。为了得到既有较强抗差性又有较高效率的估值,采用抗差最小二乘法在粗差干扰条件下进行参数估计。抗差最小二乘估计通过等价权把抗差估计原理与加权最小二乘形式结合在一起,因此在抵抗粗差的同时保持了最小二乘法的优点。非线性信号重构的粗差抑制结果表明,抗差最小二乘法计算速度快,且具有良好的抗粗差能力和收敛可靠性。     

移动最小二乘法在多功能传感器数据重构中的应用

针对传统最小二乘法全局拟合的局限性, 将一种新型的数值算法---移动最小二乘法应用于非线性多功能传感器的信号重构. 通过详细研究插值函数的构造方法及性质, 合理地选取基函数和权函数, 求出试函数的系数, 进而得到信号的重构值. 详细分析了基函数维数、影响域节点数及权函数因子对计算结果的影响, 并对最小二乘法以及移动最小二乘法的重构数据进行了对比, 重构的相对误差分别小于 15.3 % 和 1.03 %, 结果表明移动最小二乘法更适合非线性曲面拟合, 且适当地增加基函数维数或影响域节点数可以进一步提高数据重构的精度.     

基于DSP的PET图像重建方法

以美国德州仪器公司的高性能数字信号处理器TMS320C6455为核心,在低成本DSP（Digital Signal Processor）平台上优化并实现了一种基于滤波反投影的PET（Positron Emission Tomography）图像重建算法FBP （Filtered Back Projection）。实验结果表明,通过针对性的算法和代码优化,系统能够在40秒内完成512×512分辨率PET图像的重建,并获得满足应用需要的图像清晰度。基于DSP平台的PET图像重建方法在PET医学图像重建及其他医学成像领域具有良好的应用前景。     

Least Squares and Robust Estimation of Local Image Structure

Linear scale space methodology uses Gaussian probes at scale s to observe the differential structure. In observing the differential image structure through the Gaussian derivative probes at scale s we implicitly construct the Taylor series expansion of the smoothed image. The Gaussian facet model, as a generalization of the classic Haralick facet model, constructs a polynomial approximation of the unsmoothed image. The measured differential structure therefore is closer to the ‘real’ structure than the differential structure measured using Gaussian derivatives.At the points in an image where the differential structure changes abruptly (because of discontinuities in the imaging conditions, e.g. a material change, or a depth discontinuity) both the Gaussian derivatives and the Gaussian facet model diffuse the information from both sides of the discontinuity (smoothing across the edge).Robust estimators that are classically meant to deal with statistical outliers can also be used to deal with these ‘mixed model distributions’. In this paper we introduce the robust estimators of local image structure. Starting with the Gaussian facet model where we replace the quadratic error norm with a robust (Gaussian) error norm leads to a robust Gaussian facet model.We will show examples of using the robust differential structure estimators for luminance and color images, for zero and higher order differential structure. Furthermore we look at a ‘robustified’ structure tensor that forms the basis of robust orientation estimation.First online version published in June, 2005     

PET图像的DSP重建方法

以美国德州仪器公司的高性能数字信号处理器TMS320C6455为核心,在低成本数字信号处理器(Digital signal processor,DSP)平台上优化并实现了一种基于滤波反投影的正电子发射断层扫描(Positron emission tomography,PET)图像重建算法滤波反投影(Filtered back projection,FBP).实验结果表明,通过针对性的算法和代码优化,系统能够在40 s内完成512像素×512像素分辨率PET图像的重建,并获得满足应用需要的图像清晰度.基于DSP平台的PET图像重建方法在PET医学图像重建及其他医学成像领域具有良好的应用前景.     

低光子数PET图像的投影空间统计重建方法

提出了一种适用于低光子数观测数据的正电子发射断层图像重建的最大后验概率密度(Maximum a pos-terior,MAP)方法。与传统的MAP算法不同,本文将投影空间看作Gibbs随机场,并在该空间构造投影空间先验模型。根据系统的局部冲击响应对先验项进行修正,使得该方法能够获得近似一致的空间分辨率。实验结果表明,该方法在观测数据光子数较低的情况下,能够获得较好的图像重建结果。     

基于LS-SVM的图像去噪方法

支持向量机是一种基于统计学习理论的机器学习方法，该方法已广泛用于解决分类问题和回归问题。文中将最小二乘支持向量机应用于图像去噪中，并同小波去噪及中值滤波进行了比较分析。仿真结果表明，该方法能较好的保存图像细节，并具有很好的泛化能力。     

小波滤波的移动最小二乘图像变形方法

为了获得具有真实感的变形图像,改变以往直接对图像进行变形的做法,首先对图像进行预处理,提出基于小波滤波的移动最小二乘法图像变形对原始图像先进行滤波,把图像分成低频子图像和高频子图像,只对低频部分使用基于控制点集的移动最小二乘法进行变形,对不同部位的轮廓和边缘进行不同尺度的变形,较好的描述了图像中的形状和轮廓信息;对高频部分不作处理,有效的保持了图像的细节信息.再将变形后的低频部分与原图像的高频部分相加得到最后的变形结果.实验表明这种方法很好的保留了图像的高频信息,可以使图像产生平滑的变形,获得具有真实感的变形效果.     

基于B样条整体最小二乘的非线性多功能传感器信号重构方法

提出一种基于B样条整体最小二乘(Total least squares,TLS)的非线性多功能传感器信号重构新方法.该方法利用B样条基函数直接构建描述多功能传感器传递函数反函数的张量积B样条曲面;采用TLS求解超定方程组以获得稳定的控制系数估计.以二输入二输出多功能传感器模型为实验对象,在两种非线性情况下对多功能传感器的输入信号进行了重构,重构相对误差分别为0.162％和1.043％,并与常用重构方法进行了对比分析.理论和实验表明,B样条TLS重构方法对非线性多功能传感器传递函数的反函数具有良好的逼近性能,在信号重构中表现出较好的有效性.