改进的核回归图像恢复

Steering核回归是一种自适应的、有效的图像恢复方法,在图像去噪、放大和去模糊中都得到了广泛应用。但此模型以高斯函数为核函数,故得到的恢复图像边缘,尤其是细小边缘常常会因过分平滑而模糊。提出基于鲁棒统计的各向异性核回归图像恢复模型,该模型在Steering核回归模型基础上,结合各向异性距离,以鲁棒统计权函数代替高斯核函数。大量图像恢复实验结果显示,与Steering核回归方法相比较,所提出方法得到的恢复图像质量显著提高,尤其是在细小边缘保持方面更具有明显优势。     

一种含控制滞后的Wiener模型的辨识方法

研究了含控制滞后Ｗｉｅｎｅｒ模型的辨识．在一定条件下，这一模型满足一组回归函数．利用Ｆｏｕｒｉｅｒ级数部分和可以求得回归函数在若干点上的估计．基于这些估计值可以决定控制滞后步数，进而辨识线性子系统和非线性映射的参数．仿真结果说明了算法的有效性     

具分段损失函数的支持向量机回归及在投资决策中的应用

支持向量机回归模型的性能与所选用的损失函数有很大关系.本文提出一种具分段损失函数的支持向量机回归模型,其分段损失函数对落在不同区间的误差项采用不同的惩罚函数形式,并将该模型应用于投资决策问题中,估计收益率向量的联合概率密度函数和最优投资组合.仿真实验表明,其性能要优于一般的支持向量回归方法.     

基于最小二乘小波支持向量机的数据拟合实验

针对目前使用的SVM核函数在回归中不能逼近任意目标函数的问题,在支持向量机的核方法和小波框架理论的基础上,提出了LS-WSVM结构模型。该模型在LS－SVM中使用一种新的由小波构成的SVM核函数。实验结果表明,与标准的SVM及LS－SVM比较起来,在同等条件下,LS-WSVM在函数回归方面LS-WSVM具有优良的逼近性能,拟合效果更为细腻。     

一种改进的再生核支持向量机回归模型

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数进行改进,给出一种新的支持向量机核函数,并提出一种改进的最小二乘再生核支持向量机的回归模型,该回归模型的参数被减少,且仿真实验结果表明：最小二乘支持向量机的核函数采用改进的再生核函数是可行的,改进后的再生核函数不仅具有核函数的非线性映射特征,而且也继承了该再生核函数对非线性逐级精细逼近的特征,回归的效果比一般的核函数更为细腻。     

支持向量回归机的光滑函数研究

光滑数能将不光滑模型变为光滑模型,改善支持向量机的回归性能和效率.Lee等人用一个光滑函数逼近ε-不敏感损失函数的平方,提出ε-不敏感的光滑支持向量回归机模型(ε-SSVR).本文为求ε-不敏感支持向量回归机的新光滑函数,运用插值函数和复合函数的方法,首先求正号函数的光滑逼近,然后将其复合成ε-不敏感损失函数平方的光滑函数,得到一类新的光滑函数.并从理论上证明该类光滑函数的逼近精度比以往的光滑函数高一个数量级.实验结果表明回归效果得到改善,从而为支持向量回归机提供一类新的光滑函数.     

基于深度神经向量机自回归的协同过滤算法

为发掘卷积神经网络在协同过滤预测中的潜力,针对神经自回归模型方法和支持向量机在深度学习中的优势,提出基于深度神经向量机自回归的协同过滤方法。通过将神经网络最后一层的激发函数替换为线性支持向量回归函数的方式,学习基于最小边缘的对数损失。在多个公开数据集上的实验结果表明,该算法在深度神经自回归对协同过滤问题实现较好预测的基础上,线性向量回归函数的使用能更好地提升预测效果。     

基于联邦学习的Gamma回归算法

在水文学、气象学以及保险理赔评估等领域中,通常假设因变量服从Gamma分布,相比多元线性回归,在Gamma分布假设下建立起的Gamma回归具有更出色的拟合效果。以往获得Gamma回归模型的方法是将数据集中起来进行训练,当数据是由多方提供时,在不交换数据的情况下训练满足隐私保护的Gamma回归模型成为需要解决的问题。为此,提出了一种多方安全的纵向联邦Gamma回归算法,该算法首先使用迭代法推导出纵向联邦Gamma回归模型的对数似然估计表达式,然后结合工程实际确定模型的连接函数,进而构造损失函数建立参数的梯度更新策略,最后对同态加密后的各方参数进行融合更新,获得联邦学习后的Gamma回归模型。在两种公开数据集上进行性能测试,实验结果表明,所提联邦Gamma回归算法在不交换数据的前提下,可有效利用多方数据的价值生成Gamma回归模型,该模型对数据的拟合效果逼近数据在集中情况下学习到的Gamma回归模型,优于单方独立学习获得的Gamma回归模型。     

基于特征向量提取的核回归建模方法研究

针对工业软测量中的非线性数据回归问题,提出一种基于特征向量提取的核回归建模方法.基于核函数非线性变换技术,建立非线性软测量模型-核回归模型.为了减少核回归模型中的优化参数,采用特征向量提取(FVS)算法选择核回归模型的特征向量,最后采用改进的粒子群优化算法估计模型参数.在工业数据上的应用结果说明了方法的有效性.     

改进的多目标回归实时人脸检测算法

针对物体检测实时多目标回归算法中分别优化各四个位置参数，割裂了四个位置变量之间的关系，造成对物体的边框回归不够准确且训练不易收敛的问题，提出一种带检测评价函数（Intersection over Union，IoU）作为损失函数的实时多目标回归人脸检测算法。首先基于Redmond等提出实时多目标回归模型，采用该模型检测实时性的机制，然后融合了IoU函数作为位置参数的损失函数，将实时多目标回归模型中的四个独立位置参数整合成一个单元进行优化，避免了基础模型的缺陷。算法在人脸检测基准库FDDB上进行测试，实验结果表明：在人脸检测的有效性上优于主流的传统人脸检测算法，检测速度上领先于其他经典深度学习方法。提出的算法在检测人脸的有效性和检测速度两者之间取得了一个较好的平衡，为构建实用的人脸相关应用系统提供了参考价值。     

基于TVARMA的飞行器结构响应序列参数谱估计

针对时变自回归滑动平均(TVARMA)模型参数谱估计容易出现谱峰漂移的问题,提出一种基于组合目标函数和遗传算法的TVARMA模型参数估计方法,并将之应用于飞行器结构响应序列的谱估计。首先,通过长自回归方法和增广最小二乘方法获得TVARMA模型参数初始估计值;其次,依据连续函数极值条件推导模型参数的频域约束条件并结合罚函数方法构造组合目标函数;最后,采用遗传算法对模型参数进行优化获得使组合目标函数最小的参数值作为TVARMA模型参数的最优估计。应用结果表明:该方法可以克服谱峰漂移现象,提高模型在时域和时频域的建模精度。     

差异化隐私预算分配的线性回归分析算法

针对用差分隐私方法进行线性回归分析敏感性偏大的问题,提出一种差异化的隐私预算分配算法Diff-LR(Differential Privacy Linear Regression)。该算法首先把目标函数分解成两个子函数,再分别计算两个子函数的敏感性、分配合理的隐私预算,并采用拉普拉斯机制给两个子函数系数添加噪音。然后对子函数进行组合,得到添加噪声后的目标函数,求取最优线性回归模型参数。最后利用差分隐私序列组合特性从理论上证明该算法满足ε-差分隐私。实验结果表明,Diff-LR算法产生的线性回归模型具有很高的预测准确性。     

基于相关向量回归的仿真元建模方法

针对支持向量回归元模型存在的不足,提出将相关向量回归应用于仿真元建模,使用多个不同维度和非线性程度的基准测试函数,在元模型精确性、采样技术、样本规模、模型维度和非线性程度等多方面与多项式回归、Kriging、径向基函数、支持向量回归4种方法进行对比研究,结果证明该方法具有较高的精确性和鲁棒性。     

模糊推量的函数变换观点

基于函数论的立场，指出模糊推理过程是一个函数变换过程，模糊规则蕴涵了一个从函数空间到函数空间的映射，现存的种种模糊推理方法都是对这种映射的估计，进而指出插值和回归的方法都适用于这种估计。系统地提出了用回归的方法处理模糊推理的思想，并结俣线性回归模型进行了示范，证明了基于线性回归模型的模糊推理系统（FIS）同样是一个万能函数逼近器。     

模糊推理的函数变换观点

基于函数论的立场 ,指出模糊推理过程是一个函数变换过程 ,模糊规则蕴涵了一个从函数空间到函数空间的映射 ,现存的种种模糊推理方法都是对这种映射的估计 ,进而指出插值和回归的方法都适用于这种估计。系统地提出了用回归的方法处理模糊推理的思想 ,并结合线性回归模型进行了示范 ,证明了基于线性回归模型的模糊推理系统 (FIS)同样是一个万能函数逼近器。     

函数回归的差分隐私保护算法

函数型数据回归是一种特殊的回归分析,其响应或协变量包含函数型数据,即样本元素为连续函数的数据。函数型数据在医疗保健、社交媒体、传感网络等诸多领域都有重要应用,通常包含一些敏感信息,在回归分析的过程中,不加保护会引起隐私的泄露。针对函数型数据回归分析中缺少隐私保护的问题,提出了一种基于拉普拉斯机制的函数回归的差分隐私保护算法。首先,对响应数据进行降维,将响应函数建模为相互正交的B样条基的张量积,建立函数回归的数学模型;其次,对回归模型的未知参数取值使用惩罚最小二乘法估计,并通过正交基函数的数量控制粗糙度;最后,对估计参数加入服从拉普拉斯分布的噪声扰动,得到最终的回归结果。理论分析和实验表明,函数回归的差分隐私保护算法满足拉普拉斯机制的差分隐私保护,并且随着隐私预算的减小,算法效率越高,在保证数据安全性的同时达到了良好的可用性。     

多项式函数型回归神经网络模型及应用

文中利用回归神经网络既有前馈通路又有反馈通路的特点，将网络隐层中神经元的激活函数设置为可调多项式函数序列，提出了多项式函数型回归神经网络新模型，它不但具有传统回归神经网络的特点，而且具有较强的函数逼近能力，针对递归计算问题，提出了多项式函数型回归神经网络学习算法，并将该网络模型应用于多元多项式近似因式分解，其学习算法在多元多项式近似分解中体现了较强的优越性，通过算例分析表明，该算法十分有效，收敛速度快，计算精度高，可适用于递归计算问题领域，该文所提出的多项式函数型回归神经网络模型及学习算法对于代数符号近似计算有重要的指导意义。     

基于PSO算法的probit模型参数估计

针对二值probit回归模型中的参数估计问题,提出一种基于粒子群优化（PSO）的参数估计算法。该算法采用以最大似然准则作为PSO的适应度函数,建立二值probit回归模型中的参数估计计算模型。数值仿真分析表明,该算法性能较好,回归结果具有较高的拟合优度。     

大型群体多属性决策的目标函数线性回归法

在定义标准决策值的基础上,运用线性回归的方法建立了带有约束条件的大型群体多属性决策目标函数线性回归模型,证明了该模型解的存在性和唯一性.大型群体多属性决策目标函数线性回归法对各专家的标准决策值的信息进行了最优意义上的集结和协调.此外,对大型群体多属性决策目标函数线性回归模型进行了讨论,并获得了一整套可用Matlab软件求解该模型最优解的算法,具体应用算例验证了所提算法的有效性.     

基于多蚁群算法的支持向量回归机参数选择方法

核函数是支持向量回归机的重要部分,每种核函数都有其优势和不足。本文基于支持向量机回归机模型相关参数的选取原则,给出了一种具有混合核函数的支持向量机,以基于网格搜索的多蚁群算法为基础,给出了此类混合核函数支持向量回归机参数优化的一种新方法。该方法以最小化交叉验证误差为目标,对包括混合比例和各类核函数的参数在内的5个参数进行优化。仿真结果表明,与遗传算法相比,本方法在参数优化方面有良好的性能,建立的预测模型精度较高。