Spectral preconditioning of Krylov spaces: Combining PLS and PC regression

In regularized regression the vectors that lie in Krylov and eigen subspaces, formed in PLS and PC regressions respectively, provide useful low dimensional approximations for the LS regression coefficient vector. By preconditioning the LS normal equations we provide a framework in which to combine these methods, and so exploit both of their respective advantages. The link between the proposed method to orthogonal signal correction and to cyclic subspace regression is made. The performance of the proposed solution in reducing the dimension of the regression problem, and the shrinkage properties of the resulting coefficient vector, are both examined.     

基于概念格的天体光谱离群数据识别方法

在宇宙中, 寻求特殊的、未知的天体是人类探索宇宙奥妙所追求的目标之一, 天体光谱离群数据识别方法是实现该目标的有效手段之一. 将概念格中每个概念节点内涵描述为天体光谱数据特征子空间, 提出了一种天体光谱离群数据识别方法. 首先将概念节点的内涵缩减看作天体光谱特征子空间, 并依据稀疏度系数阈值确定稀疏子空间; 其次对于稀疏子空间, 依据稠密度系数判定祖先概念节点内涵是否为稠密子空间, 进而判断出概念节点外延中包含的数据对象是否为天体光谱离群数据; 最后以离散化天体光谱数据作为形式背景, 实验验证了利用该方法识别出的天体光谱离群数据是准确的、完备的和有效的.     

RSM组合方法用于高光谱遥感数据的分类研究

RSM(Random Subspace Method)是一种新型的组合方法,利用随机挑选的特征子集生成每个基模型(Base Model),因此对于高维数据,RSM具有很大的应用潜力.本文将RSM方法应用于高光谱数据分类中,验证了RSM方法的有效性,并采用遗传算法(Genetic Algorithm)选择部分基模型构成组合来进一步提高分类精度.本文的工作为进一步在高光谱领域开展组合算法研究起到了很好的示范作用.     

基于监督保持近邻投影的人脸识别

保持近邻投影是一种无监督线性降维方法,具有保持数据流形上局部近邻结构特性,但应用到分类任务时具有局限性,如忽略类标签的信息。该文提出一种新的人脸识别子空间学习方法——监督保持近邻投影,根据先验的类标签信息保持局部几何关系,能获得较好的近似人脸流形以及增强特征空间的判别力。在ORL人脸数据库上的实验表明该方法是有效的。     

一种新的基于遗忘因子的递推子空间辨识算法

针对工业系统中广泛存在的时变特性, 提出一种新的递推子空间辨识算法, 实现对系统状态空间模型的在线递推估计. 为更好地跟踪系统时变特性, 研究基于遗忘因子的输入输出数据矩阵构造机制, 以提高递推算法的收敛速度; 针对算法中奇异值分解的求解问题, 将梯度型算法引入基于遗忘因子的状态子空间跟踪中, 实现对广义能观测矩阵的估计, 避免了子空间近似带来的估计有偏性; 该算法计算简单有效, 且对初值具有更高的鲁棒性; 最后给出该递推算法的性能分析, 理论证明其收敛性, 并通过仿真实例验证算法的有效性.     

一类基于小波框架的采样子空间

采样定理是现代信息理论与技术的基本工具,具有采样性质的信号具有比较完美的信息重构形式.Walter 和 Zhou 将古典信号的采样定理发展到小波子空间.发展了基于小波框架的数字信号的采样定理与方法.提出并回答了信息理论中的一个基本问题:一个能量有限的数字信号,是否具有采样定理的形式.以小波框架为工具给出了具有采样性质的数字信号的刻画;对于一个给定的采样子空间,给出了该子空间的信号的表示形式;特别是给出了一大类新的具有采样性质的数字信号空间.应用实例表明,从理论和实践上对于数据信息的采样和重构是有意义的,是对以往相关结果的有效改进.     

仿射子空间最近点分类算法

为了取得更好的识别效果,受支持向量机的几何解释和最近点问题启发,提出了一种新的模式分类算法——仿射子空间最近点算法。该算法是将支持向量机最近点法的最近点搜索区域由两类训练集凸包推广到两类训练样本各自张成的仿射子空间,并以仿射子空间作为样本分布的粗略估计,通过仿射子空间中的最近点对来构造平分仿射子空间间隔的最优分类超平面。该算法在ORL人脸识别数据库上进行的比较实验中取得了较好的识别效果,从而证实了该方法的可行性和有效性。     

基于子空间集成学习的3维人体运动识别

如何对3维运动数据进行自动识别,是提高数据利用效率和进行计算机动画创作的前提。为了有效地识别运动数据,需要把运动数据投影到非线性流型低维子空间中,先识别出运动的内在结构,然后对运动的各个关节点分别进行学习,最后基于集成学习的方法产生强的隐马尔可夫学习器,以便能够对一些常见的运动类型进行自动识别。实验结果表明,这种基于子空间集成的人体运动识别方法较传统方法的检索精度、检索速度均有较大提高。     

一种基于投票策略的聚类融合算法

在分类算法和回归模型中,融合方法正得到越来越广泛的应用,但在非监督机器学习领域,由于缺乏数据集的先验知识,则不能直接用于聚类算法.提出并实现了一种基于投票策略的聚类融合算法,该算法利用k-means算法每次随机选取聚类中心而得到不同样本划分的特性,将多次运行得到的聚类结果通过投票的方式合并,从而得到最终的结果.通过一系列真实数据和合成数据集的实验证明,这种方法比单一的聚类算法能更有效地提高聚类的准确率.在此基础上,为了降低高维数据运算的复杂性,将随机划分属性子空间的方法应用到上述聚类融合算法中,实验证明,该方法同时也能够在一个属性子空间上获得好的聚类结果.     

基于贝叶斯压缩感知的子空间拟合离格DOA估计

针对传统的基于稀疏贝叶斯学习（Sparse Bayesian Learning,SBL）的波达方向估计算法对噪声鲁棒性不高的问题,提出了一种基于SBL的子空间拟合离格波达方向(Direction of Arrival,DOA)估计方法。首先对接收数据的协方差矩阵进行特征分解,获得信号的加权子空间,构造等价信号的稀疏表示模型并利用贝叶斯学习算法进行参数求解。同时对于网格划分带来的建模误差问题,采用了离格贝叶斯推导（Sparse Bayesian Inference,SBI）算法进行求解,利用期望最大化算法迭代更新相应的参数。仿真结果表明,相对于传统的DOA方法,该方法具有更好的估计精度。