高斯过程及其在高光谱图像分类中的应用

高光谱遥感图像分类是高光谱成像信息处理的研究热点,高光谱成像的内在特点对于分类器设计具有直接影响.高斯过程是近年来发展迅速的一种新的机器学习方法,具备容易实现、超参数可自适应获取以及预测输出具有概率意义等优点,比较适合于处理图像分类问题.首先对高斯过程的基本概念及其主要的分类算法进行了简要介绍,然后在对高光谱图像分类的特点和高光谱图像分类的研究现状的分析基础上,讨论了基于高斯过程的高光谱图像分类的基本思想,提出了基于空间约束的高斯过程分类和基于半监督高斯过程分类等适合高光谱图像分类的新方法.最后对基于高斯过程的高光谱图像分类研究的发展趋势进行了展望.     

基于高斯过程的DNA微阵列分类算法

基于高斯过程对分类过程进行建模,给出了一种基于高斯过程的DNA微阵列分类算法。作为一种贝叶斯分类方法,该方法能够给出分类的概率,并能将过往的正确诊断信息,纳入到分类模型中,实现分类模型的不断优化。该方法能够基于主样本进行训练空间的维度消减,较好地解决了由于样本的加入造成的维度不断增加的问题。通过和几种常用分类算法的实验对比分析,证明了该方法具有较高的分类准确性。     

一种低信噪比图像的模拟退火恢复算法

本文根据马尔可夫(Markov)随机场模型和全局最大后验概率估计技术提出了一种模拟退火图像恢复算法.应用这种算法对混入可加性独立高斯噪声的试验图像进行恢复的实验结果表明,该算法对低信噪比图像数据的恢复处理非常有效.     

一种新高斯过程分类算法

由于需要利用高斯函数逼近潜变量函数的后验概率, 传统高斯过程分类算法通常都存在计算复杂度高的问题. 对此, 提出一种新高斯过程分类算法. 该算法的基本思想为: 首先, 利用Parzen 窗方法估计出每个训练样本的后验概率; 然后, 通过所得到的后验概率将原始分类问题变换为回归问题; 进而分析地得到潜变量函数后验概率的显式表达式, 以避免逼近后验概率所面临的高计算复杂度问题. 仿真实验结果表明, 所提出的算法在分类精度上优于已有的高斯过程分类算法.

     

基于隐含狄利克雷分配模型的图像分类算法

概率隐含语义分析模型不适用于大规模图像数据集,为此,提出一种基于隐含狄利克雷分配模型(LDA)的图像分类算法。以BOF特征作为图像内容的初始描述,利用Gibbs抽样算法近似估算LDA模型参数,得到图像的隐含主题分布特征,并采用k近邻算法对图像进行分类。实验结果表明,与基于概率隐含语义分析模型的分类算法相比,该算法的分类性能较优。     

面向深度神经网络训练的数据差分隐私保护随机梯度下降算法

针对传统深度神经网络所采用的随机梯度下降算法忽略了对数据集隐私性保护的缺点,提出一种基于数据差分隐私保护的随机梯度下降算法。引入范数剪切与附加高斯噪声操作,对传统梯度更新策略进行改进。为衡量每次迭代过程中对数据隐私性的破坏,提出隐私损失累积函数在迭代过程中对数据隐私性的侵犯程度进行度量。MNIST手写数字识别和CIFAR-10图像分类实验表明,该算法在保护数据集隐私性的同时,对手写数字以及图像分类的识别准确率分别超过了90%和70%,且相较于传统的随机梯度下降算法,其准确率提升了5%以上。该算法在实际工程中能够有效兼顾数据隐私性保护与神经网络辨识准确度。     

基于改进局部特征分布的图像分类方法

提出一种概率签名的图像分布描述及对应的图像分类算法．算法首先通过高斯混合模型建立图像局部特征分布,然后以混合模型中各个模式的均值为聚类中心,以图像中满足约束条件的局部特征对相应模式的后验概率之和为聚类大小来形成初始的概率签名,最后执行一个压缩过程确定最终的概率签名特征,并通过训练基于Earth Mover's Distance (EMD)核的SVM分类器完成图像分类．概率签名允许一个局部特征对多个聚类做出反映,可以编码更多判别信息以及从视觉感知上捕捉更多的相似性．通过与其它图像分类方法在场景识别和对象分类两项任务上的对比实验,验证了文中提出的分类方法的有效性．     

基于高斯过程隐变量模型的图像数据降维算法

针对传统谱算法在数据降维计算复杂度高的缺点,提出一种基于高斯过程隐变量模型的图像数据降维算法。首先,通过高斯过程(Gaussian Process,GP)建立图像数据的概率模型,得到图像数据的隐变量模型;其次,利用概率最大化原则得到最优超参数,通过最优超参数求取最优数据降维结果;最后,实现图像数据降维。选取Yale,ORL两类数据集与传统算法进行人脸识别对比实验,实验结果表明:所提出的算法针对图像数据降维问题有较好的效果,结合支持向量机算法,可有效地对人脸图像进行识别,且有较高的识别率,从而体现出算法对高维数据降维的准确性。     

基于信任权学习的在线分类算法

鉴于高斯过程对处理高维数、小样本、非线性等复杂问题具有较好的适应性,将其引入到在线分类器学习算法中,形成一种新型的在线分类算法,即信任权算法。该算法的信任权超参数为模型向量的高斯分布,每训练一次样本就修正一次模型向量的信任权,并使样本正确分类的概率在某个特定信任域内。采用人工和实际数据进行实验,结果表明信任权算法优于传统的感知器算法。     

应用快速高斯变换估计图像互信息

针对基于核密度估计的图像互信息估计法运算量很大的问题,提出了一种快速互信息估计算法。该算法选用高斯函数作为核密度估计法的核函数,然后用快速高斯变换加快运算速度,并用k中心聚类算法改进了原快速高斯变换中数据分类方法。新算法能在线性时间复杂度内估计出图像互信息,采用医学图像的实验证实了算法的性能。     

基于模糊贝叶斯网络的星形细胞瘤恶性分级的研究

针对医学影像诊断的复杂性和不确定性,首次提出将模糊贝叶斯网络应用于星形细胞瘤恶性程度的诊断,通过采用条件高斯模型对连续输入进行模糊化处理,利用专家知识和数据,并通过机器学习,建立了星形细胞瘤恶性程度分级的概率模型。两个建模实验结果证明了这种方法的有效性,其中融合了低层视觉特征和中层语义的概率模型比仅仅使用低层视觉特征的模型有更高的识别率,使用60个测试样本,可达81.67%的识别率。该模型解决了贝叶斯网络连续输入的问题,为医生尤其是年轻医生提供了一个针对星形细胞瘤分级的较客观的定量诊断参考,为恶性程度预测提供新的辅助手段。     

Visual information fusion for object-based video image segmentation using unsupervised Bayesian online learning

An algorithm using the unsupervised Bayesian online learning process is proposed for the segmentation of object-based video images. The video image segmentation is solved using a classification method. First, different visual features (the spatial location, colour and optical-flow vectors) are fused in a probability framework for image pixel clustering. The appropriate modelling of the probability distribution function (PDF) for each feature-cluster is obtained through a Gaussian distribution. The image pixel is then assigned a cluster number in a maximum a posteriori probability framework. Different from the previous segmentation methods, the unsupervised Bayesian online learning algorithm has been developed to understand a cluster's PDF parameters through the image sequence. This online learning process uses the pixels of the previous clustered image and information from the feature-cluster to update the PDF parameters for segmentation of the current image. The unsupervised Bayesian online learning algorithm has shown satisfactory experimental results on different video sequences.     

高斯颜色模型在瓷片图像分类中的应用

由于RGB颜色空间不能很好贴近人的视觉感知,同时也缺少对空间结构的描述,因此采用兼顾颜色信息和空间信息的高斯颜色模型以获取更全面的特征,提出了一种基于高斯颜色模型和多尺度滤波器组的彩色纹理图像分类法,用于瓷器碎片图像的分类。首先将原始图像的RGB颜色空间转换到高斯颜色模型;再用正规化多尺度LM滤波器组对高斯颜色模型的3个通道构造滤波图像,并借助主成分分析寻找主特征图,接着选取各通道的最大高斯拉普拉斯和最大高斯响应图像,与特征图联合构成特征图像组用以进行参数提取;最后以支持向量机作为分类器进行学习和分类。实验结果表明,与基于灰度的、基于RGB模型的和基于RGB_bior 4.4小波的方法相比,本文方法具有更好的分类结果,其中在Outex纹理图像库上获得的分类准确率为96.7%,在瓷片图像集上获得的分类准确率为94.2%。此方法可推广应用到其他彩色纹理分类任务。     

一种基于CLM的服务机器人室内功能区分类方法

基于CLM（无码本模型）提出一种规避码本的室内功能区表示与建模方法．首先,在灰度级图像的基础上提取SURF（加速鲁棒特征）描述子;然后,运用空间金字塔方法将图像分成规则区域,在向量空间引入高斯流形,将每个区域用单高斯模型表示,并将其联合构成混合高斯模型以表示整幅图像;最后,将图像的高斯模型与改进的SVM（支持向量机）分类器联合使用,实现室内功能区的分类．在Scene 15数据集上的实验结果表明,本文方法相较于传统的构建码本方式在分类识别精度上提升约20%,同时对方向变化、光照不均匀等情况具有较好的鲁棒性,有效提升了服务机器人对室内功能区的认知能力．     

边缘保持滤波的遥感影像多特征联合分类

针对高分辨率影像在分类时存在的“海量数据灾难”“椒盐”现象、地物边缘不可分性强的问题,提出边缘保持滤波的高分辨率遥感影像多特征联合分类方法。该方法主要分为3部分。首先,提取影像的多种特征进行联合处理,减少数据处理运算量;然后,利用极限学习机对样本子类训练多个弱分类器,通过分类器获得初始类别概率影像;最后,利用多特征联合影像构建边缘保持滤波器,对初始类别概率影像进行滤波处理,通过投票表决的方法确定每个像素的类别。通过实验验证了该方法的有效性。     

基于多元混合高斯分布的多分类人脸识别方法

针对实际人脸图像含有的噪声模型常常表现出的非高斯特性, 该非高斯特性具有较厚重的拖尾现象, 提出一种基于多元混合高斯分布的多分类人脸识别方法。该方法将多元混合高斯分布、核函数、概率密度函数估计中的参数估计以及贝叶斯理论结合起来, 能对含有重尾噪声的人脸图像有较高的识别率。用ORL标准人脸库进行验证, 实验结果表明了可行性。     

基于实值RBM的深度生成网络研究

受限玻尔兹曼机（restricted Boltzmann machine,简称RBM）是一种概率无向图,传统的RBM模型假设隐藏层单元是二值的,二值单元的优势在于计算过程和采样过程相对简单,然而二值化会对基于隐藏层单元的特征提取和数据重构过程带来信息损失.因此,将RBM的可见层单元和隐藏层单元实值化并保持模型训练的有效性,是目前RBM理论研究的重点问题.为了解决这个问题,将二值单元拓展为实值单元,利用实值单元建模数据并提取特征.具体而言,在可见层单元和隐藏层单元之间增加辅助单元,然后将图正则化项引入到能量函数中,基于二值辅助单元和图正则化项,流形上的数据有更高的概率被映射为参数化的截断高斯分布;同时,远离流形的数据有更高的概率被映射为高斯噪声.由此,模型的隐层单元可以被表示为参数化截断高斯分布或高斯噪声的采样实值.该模型称为基于辅助单元的受限玻尔兹曼机（restricted Boltzmann machine with auxiliary units,简称ARBM）.在理论上分析了模型的有效性,然后构建了相应的深度模型,并通过实验验证模型在图像重构任务和图像生成任务中的有效性.