隐目标回归算法设计研究

对常用的回归方法进行研究.此类方法虽然几何解释明确、易于求解,但均须事先确定(或假定)变量间的因果关系,再考虑建模,在实际应用中,对于很难确定变量的因果关系的问题,如物联网数据分析,上述方法就会失效.为此,提出一种无需假定因变量的隐目标回归方法.该方法易于核化,可以推广到非线性回归问题.通过人工数据和国际标准数据集上的实验验证了所提算法的有效性.     

一种适合用于处理中药指纹图谱数据的偏最小二乘法

中药指纹图谱数据具有变量数很大而样本数较小的特点,本文中采用拉格朗日求极值的方法导出一种新的适合用于处理这类数据的偏最小二乘算法。结果表明：所得到新的算法,在处理中药指纹图谱数据时,与传统的偏最小二乘算法比较,节省存储单元,计算量小,计算速度快,因而计算效率高。     

基于投影的回归分析方法综述

回归分析方法是建立复杂对象外特性模型的一类重要方法.本文对现有各种回归方法进行了综述.采用一个统一的目标函数来解释各种回归方法,并以此为基础,系统介绍了各种回归分析方法(包括常见的主成分分析法和部分最小二乘法(PLS))的意义、结构、算法、特性及其相互关系.     

采用双重特征扰动的最小平方有序回归

有序回归是一种特殊的机器学习范式,其目标是利用类间内在的有序标号来划分模式。尽管已有众多有序学习方法相继被提出,但其性能常受制于有限的训练样本。借鉴最近提出的边际特征扰动思想,通过对训练样本的输入和输出分别施加已知分布噪声的随机扰动和确定偏差的可控扰动,以弥补样本有限的不足,进而在最小平方有序回归基础上发展出采用双重特征扰动的最小平方有序回归（least squares ordinal regres-sion using doubly corrupted features,LSOR-DCF）。实验结果表明,LSOR-DCF性能优于无扰动或单一输入/输出的扰动,且在小数据集上表现得尤其明显。     

移动最小二乘法在多功能传感器数据重构中的应用

针对传统最小二乘法全局拟合的局限性, 将一种新型的数值算法---移动最小二乘法应用于非线性多功能传感器的信号重构. 通过详细研究插值函数的构造方法及性质, 合理地选取基函数和权函数, 求出试函数的系数, 进而得到信号的重构值. 详细分析了基函数维数、影响域节点数及权函数因子对计算结果的影响, 并对最小二乘法以及移动最小二乘法的重构数据进行了对比, 重构的相对误差分别小于 15.3 % 和 1.03 %, 结果表明移动最小二乘法更适合非线性曲面拟合, 且适当地增加基函数维数或影响域节点数可以进一步提高数据重构的精度.     

两种基于等式约束支持向量回归机比较研究

为了减小支持向量回归机(SVR)的计算复杂度、缩短训练时间,将应用于分类问题的近似支持向量机(PSVM)扩展到回归问题中,针对其原始优化问题采用直接法求取最优解,而不是转换为对偶问题求解,给出了近似支持向量回归机(PSVR)线性和非线性回归算法.并与同样基于等式约束的最小二乘支持向量回归机(LSSVR)进行了比较,在一维、二维函数回归以及不同规模通用数据集上的测试结果表明,PSVR算法简单,训练速度快,尤其在大规模数据集处理上更具优势.     

支持向量回归的一种网络优化策略

提出一种用于支持向量回归的网络优化策略．学习策略分为两个阶段：首先训练支持向量机,得到支持向量回归的初始结构和参数,构造一个无阈值的支持向量回归网络;然后通过带有遗忘因子的递归最小二乘算法,优化计算支持向量回归网络的权值,以达到更好的函数拟合精度．与支持向量回归相比,这种策略可以得到最优的权值和阈值．仿真结果表明,该网络性能优良,具有在线应用的潜力．     

Point cloud surfaces using geometric proximity graphs

We present a new definition of an implicit surface over a noisy point cloud, based on the weighted least-squares approach. It can be evaluated very fast, but artifacts are significantly reduced.

We propose to use a different kernel function that approximates geodesic distances on the surface by utilizing a geometric proximity graph. From a variety of possibilities, we have examined the Delaunay graph and the sphere-of-influence graph (SIG), for which we propose several extensions.

The proximity graph also allows us to estimate the local sampling density, which we utilize to automatically adapt the bandwidth of the kernel and to detect boundaries. Consequently, our method is able to handle point clouds of varying sampling density without manual tuning.

Our method can be integrated into other surface definitions, such as moving least squares, so that these benefits carry over.     

基于测地回归模型的颅面复原

颅面复原是指根据一个未知颅骨的特征预测出对应的面貌,在考古研究、医学整容、刑事案件调查等领域有重要应用.为解决颅面复原过程中存在着数据量大、需要大量标定特征点的手工工作及颅面特征点定义困难的问题,针对三角网格表示的三维颅骨和面皮模型,将颅面模型用从鼻尖出发的一组测地线表示,提出了基于测地回归的颅面复原方法.该方法首先从三维人脸模型的鼻尖点提取一组测地线;然后以颅骨和对应的人脸模型上提取的测地线作为训练样本,采用偏最小二乘回归统计模型复原未知颅骨对应人脸模型的测地线;最后通过迭代最近点算法将生成的测地线与人脸统计模型进行匹配,实现复原测试颅骨的面貌.在192套颅面数据库上进行了颅面复原实验,将基于测地回归法复原的结果与主成分分析法和偏最小二乘回归法复原结果对比,实验结果表明,该方法能够提高复原精度,减少复原时间,取得了良好的复原效果.     

Selective assessment of judgmental inconsistencies in pairwise comparisons for group decision rating

Pairwise comparison methods are convenient procedures for providing a sound weight vector from a set of binary comparisons between elements to be rated. In such procedures, each decision maker is asked to separately consider pairs of elements which are not necessarily independent from each other. For this reason the votes collected are liable to contain inconsistencies. In this paper we are providing a selective indicator that focuses on the inconsistencies the decision group is willing to correct in conformity with its vote strategy.     

一种适用于故障检测的归一化滑动窗协方差格形滤波器

本文介绍了一种最小二乘归一化滑动窗协方差格形波波器,并基于该滤波器构造了一种故障检测工具,文末的仿真逄例对理论分析的正确性进行了验证。     

基于约束最小二乘的光学遥感图像融合

在光学遥感图像融合方法中,最小二乘法常被用于求解多光谱图像拟合低分辨率全色图像的线性回归系数,但是回归系数常常出现负数,导致其物理意义不明确。针对这种实际情况,提出了基于约束最小二乘的低分辨率全色图像构造方法。通过IKONOS-2全色与多光谱图像的融合实验,结果表明：该方法所求得的回归系数具有明确物理意义,符合实际情况,并且与光谱响应函数法、最小二乘法相比,其融合质量基本保持一致,并且由于该方法不需要先验知识,故其实用性较强。     

基于偏最小二乘回归的人脸身份和表情同步识别方法

将偏最小二乘回归方法用于人脸身份和表情的同步识别。首先,对每幅人脸图像进行脸部特征提取以及相应的语义特征定义。在脸部特征提取方面,从每幅图像中标定出若干脸部关键点位置,并提取图像在该关键点处的Gabor小波系数（Gabor特征）以及关键点的坐标值（几何特征）,作为该图像的输入特征。语义特征则定义为该人脸图像所属的表情类别信息以及所对应的人脸身份信息。其次,利用核主成分分析(KPCA)方法对脸部Gabor特征和几何特征进行融合,使得输入特征具有更好的识别特性;最后,运用偏最小二乘回归(PLSR)方法建立脸部特征和语义特征之间的关系模型,并运用此模型对某一测试人脸图像进行表情和身份的同步识别。通过在JAFFE国际表情数据库和AR人脸数据库上的对比实验,证实了所提方法的有效性。     

融合softmax的偏最小二乘法及中药数据分析研究

偏最小二乘判别分析（partial least squares discriminant analysis,PLS-DA）是一种线性分类方法,不能充分表达数据之间的非线性关系,难以适应非线性数据的分类识别。针对该问题,结合softmax回归能够表达非线性特征,提出融合softmax回归的偏最小二乘判别分析算法（PLS-S-DA）。为了验证PLS-S-DA对非线性数据的有效性,以准确率、运行时间、查准率、查全率和◢F◣▼1▽-score为评价指标,采用四组UCI数据集和中药寒热药性数据集测试PLS-S-DA的性能,并与PLS-DA等五种分类算法对比。结果表明,对具有非线性特征的数据,PLS-S-DA相比于其他算法有更高的准确率,并对寒药和热药有更强的识别能力。     

利用偏最小二乘法的一种变量筛选法

根据偏最小二乘法(PLS)建模中的回归系数等一些信息,筛选原始自变量,在不损失模型预报能力的前提下,除去冗余的或影响不大的一些原始自变量,使模型更简单。本研究中找到了用于删除变量的一种新判据,计算简单,使用效果好。研究结果表明,利用PL3法得到的删除变量的新判据筛选变量是一种非常实用和有效的变量筛选方法,该法非常适合处理海量数据或变量数很大的建模问题,可使最终所得的模型中变量数大大减少,使模型大大简化,因而便于分析和解决实际问题。在处理中药指纹图谱数据时,与传统的算法比较,模型得到了大大简化。     

Functional PLS logit regression model

Functional logistic regression has been developed to forecast a binary response variable from a functional predictor. In order to fit this model, it is usual to assume that the functional observations and the parameter function of the model belong to a same finite space generated by a basis of functions. This consideration turns the functional model into a multiple logit model whose design matrix is the product of the matrix of sample paths basic coefficients and the matrix of the inner products between basic functions. The likelihood estimation of the parameter function of this model is very inaccurate due to the high dependence structure of the so obtained design matrix (multicollinearity). In order to solve this drawback several approaches have been proposed. These employ standard multivariate data analysis methods on the design matrix. This is the case of the functional principal component logistic regression model. As an alternative a functional partial least squares logit regression model is proposed, that has as covariates a set of partial least squares components of the design matrix of the multiple logit model associated to the functional one.     

面向无监督特征提取的结构化图嵌入

特征提取是处理高维数据的最有效工具之一。然而,当前特征提取方法存在两个问题：一是它们没有同时捕捉数据的局部和全局结构;二是构建的图脱离数据的聚类数,没有与聚类相同的连通分量。为了解决这些问题,提出了面向无监督特征提取的结构化图嵌入方法（structured graph embedding,SGE）。通过构建数据表征的K近邻和使用最小二乘回归,SGE能够同时保持数据的局部与全局相关结构。而且,SGE对表征图的拉普拉斯矩阵施加秩约束,使构建的最优图具有与c个聚类一致的c个连通分量,从而能揭示数据的聚类结构。因此,SGE能够找到更有判别力的投影。在多个真实数据集的实验表明,SGE优于其他主流降维方法。特别是在PIE数据集上,SGE的聚类精度比LRPP_GRR的聚类精度高出18.7%。这些结果表明SGE方法可以有效降低数据维数。     

基于支持向量机回归的抗癌药物活性研究

采用支持向量机回归(SVR)方法研究了40个抗癌化合物-二取代[(吖啶-4-酰胺基)丙基]甲胺类衍生物的定量构效关系,基于留一法交叉验证的结果,其平均相对误差是6.56％.结果表明,所建SVR模型的精度高于逆传播人工神经网络(BPANN)、多元线性回归(MLR)和偏最小二乘法(PLS)所得的结果.