基于Nystr?m谱聚类的词典学习

构建视觉词典是BOVW模型中关键的一个步骤,目前大多数视觉词典是基于K-means聚类方式构建。然而由于K-means聚类的局限性以及样本空间结构的复杂性与高维性,这种方式构建的视觉词典往往区分性能较差。在谱聚类的框架下,提出一种区分性能更强的视觉词典学习算法,为了减少特征在量化过程中区分性能的降低以及谱聚类固有的存储计算问题,算法根据训练样本的类别标签对训练数据进行划分,基于Nystr?m谱聚类得到各子样本数据集的中心并得到最终的视觉词典。在Scene-15数据集上的实验结果验证了算法的正确性和有效性。特别当训练样本有限时,采用该算法生成的视觉词典性能较优。     

基于Nystrom谱聚类的词典学习

构建视觉词典是BOVW模型中关键的一个步骤,目前大多数视觉词典是基于K-means聚类方式构建。然而由于K-means聚类的局限性以及样本空间结构的复杂性与高维性,这种方式构建的视觉词典往往区分性能较差。在谱聚类的框架下,提出一种区分性能更强的视觉词典学习算法,为了减少特征在量化过程中区分性能的降低以及谱聚类固有的存储计算问题,算法根据训练样本的类别标签对训练数据进行划分,基于Nystrom谱聚类得到各子样本数据集的中心并得到最终的视觉词典。在Scene-15数据集上的实验结果验证了算法的正确性和有效性。特别当训练样本有限时,采用该算法生成的视觉词典性能较优。     

基于模糊聚类回归的人脸特征点定位研究

传统基于回归的人脸特征点定位算法存在忽略人脸局部结构信息、姿态偏转较大时定位精度差等问题。为此,提出一种基于模糊聚类回归的定位算法。利用人脸特征点之间的局部结构信息对人脸训练集进行聚类,并根据阈值判决结果适度扩充训练样本。分别训练所有子训练集的回归结构,在测试过程中加入多次形状约束以自动调整每次聚类的结果和回归结构的选择,由此提高人脸特征点定位的精度。在300-W数据库上的实验结果表明,与形状回归算法和鲁棒姿势回归算法相比,该算法明显提高了姿态偏转较大情况下的定位精度。     

k近邻约束的稀疏子空间聚类

稀疏子空间聚类是近年提出的高维数据聚类框架，针对实际数据并不完全满足线性子空间模型的假设，提出[k]近邻约束的稀疏子空间聚类算法。该算法结合数据的子空间结构，[k]近邻及距离信息，在稀疏子空间模型上，添加[k]近邻约束项。添加的约束项符合距离越小，相似系数越大的直观认识且不改变系数矩阵的稀疏性。在人脸数据集Extended YaleB、ORL、AR，物体图像数据集COIL20及手写数据集USPS上的聚类实验表明提出的算法具有良好的性能。     

基于K-means聚类和特征空间增强的噪声标签深度学习算法

深度学习中神经网络的性能依赖于高质量的样本,然而噪声标签会降低网络的分类准确率。为降低噪声标签对网络性能的影响,噪声标签学习算法被提出。该算法首先将训练样本集划分成干净样本集和噪声样本集,然后使用半监督学习算法对噪声样本集赋予伪标签。然而,错误的伪标签以及训练样本数量不足的问题仍然限制着噪声标签学习算法性能的提升。为解决上述问题,提出基于K-means聚类和特征空间增强的噪声标签深度学习算法。首先,该算法利用K-means聚类算法对干净样本集进行标签聚类,并根据噪声样本集与聚类中心的距离大小筛选出难以分类的噪声样本,以提高训练样本的质量;其次,使用mixup算法扩充干净样本集和噪声样本集,以增加训练样本的数量;最后,采用特征空间增强算法抑制mixup算法新生成的噪声样本,从而提高网络的分类准确率。并在CIFAR10、CIFAR100、MNIST和ANIMAL-10共4个数据集上试验验证了该算法的有效性。     

大样本情况下的一种新的SVM迭代算法

针对SVM方法在大样本情况下学习和分类速度慢的问题，提出了大样本情况下的一种新的SVM迭代训练算法。该算法利用K均值聚类算法对训练样本集进行压缩，将聚类中心作为初始训练样本集，减少了样本间的冗余，提高了学习速度。同时为了保证学习的精度，采用往初始训练样本集中加入边界样本和错分样本的策略来更新训练样本集，迭代训练直到错分样本数目不变为止。该文提出的基于K均值聚类的SVM迭代算法能在保持学习精度的同时，减小训练样本集及决策函数的支持向量集的规模，从而提高学习和分类的速度。     

多神经网络在高维数据分类中的应用研究

针对BP神经网络在高维数据分类中存在训练时间长的缺点,提出一种新的多神经网络分类模型,该模型采用自组织特征映射(SOFM)网络对训练样本集进行无监督聚类,通过优化竞争层神经元权值,并以此训练BP神经网络实现数据分类.最后对自由手写数字样本进行识别,仿真实验表明,这一模型具有较强的分类能力和泛化能力.     

Spark下BP神经网络并行化算法研究

BP算法(反向传播算法)以其良好的非线性逼近能力、泛化能力以及实用性成为了人工神经网络训练算法中应用最为广泛的算法.但同时使用BP算法又存在收敛速度较慢、易陷入局部极小值等问题.为了将BP算法用于大规模数据分类问题,采用MapReduce思想,将大数据集切分成若干小的数据集来并行加速处理,同时引入Bagging算法的思想来综合并行结果,提高分类的准确率.通过在各个节点上根据子数据集独立地训练各个BP神经网络,直至各网络收敛,再将各节点上的网络收集起来进行集成,形成最终的分类器.基于Spark平台的实验表明,本文提出的算法具有良好的并行加速性能,且具有较高的分类准确率.     

基于三支决策的多视图低秩稀疏子空间聚类算法

多视图子空间聚类是一种从子空间中学习所有视图共享的统一表示, 挖掘数据潜在聚类结构的方法. 作为一种处理高维数据的聚类方法, 子空间聚类是多视图聚类领域的研究热点之一. 多视图低秩稀疏子空间聚类是一种结合了低秩表示和稀疏约束的子空间聚类方法. 该算法在构造亲和矩阵过程中, 利用低秩稀疏约束同时捕捉了数据的全局结构和局部结构, 优化了子空间聚类的性能. 三支决策是一种基于粗糙集模型的决策思想, 常被应用于聚类算法来反映聚类过程中对象与类簇之间的不确定性关系. 本文基于三支决策的思想, 设计了一种投票制度作为决策依据, 将其与多视图稀疏子空间聚类组成一个统一框架, 从而形成一种新的算法. 在多个人工数据集和真实数据集上的实验表明, 该算法可提高多视图聚类的准确性.     

最优训练样本子集的LSSVM网络流量预测

训练样本选取对最小二乘支持向量机(LSSVM)的泛化能力有较大影响,为了提高网络流量预测精度,提出一种最优训练样本子集的LSSVM网络流量预测模型(IFCM-LSSVM)。首先采用密度方法识别和剔除网络流量数据中的孤立点,消除孤立点对模糊均值聚类(FCM)聚类结果的不利影响;然后采用FCM算法对处理后网络流量数据进行聚类,并根据预测点输入向量与聚类中心的最小距离选择最优训练集,加强训练集规律性,减少LSSVM对训练集的依赖性;最后采用非线性预测能力强的LSSVM对训练集进行学习建立网络流量预测模型,并采用仿真实验对模型性能测试。仿真结果表明,相对于对比模型,IFCM-LSSVM提高了网络流量的预测精度,加快了模型的训练速度,预测结果更加稳定、可靠。     

基于样本自组织聚类的BP神经网络预测模型

根据实际应用中神经网络训练样本通常具有内在特征和规律性,提出一种基于样本自组织聚类的BP神经网络预测模型。通过自组织竞争网络的聚类特征,改善样本训练对BP网络性能的影响。BP神经网络采用收敛速度较快和误差精度较高的动量—自适应学习速率调整算法。并通过基于这种模型的空气质量预测实验,表明基于样本自组织聚类的BP神经网络预测模型首先会提高收敛速度,其次会减少陷入局部最小的可能,提高预测精度。     

基于最大偏差相似性准则的BP神经网络短期电力负荷预测算法

针对企业电力负荷随机性强、稳定性低、预测精度不理想等问题,提出了一种基于最大偏差相似性准则的BP神经网络短期电力负荷预测算法。首先对最大偏差相似性准则算法进行修改,并提出使用预测日的负荷特征向量与最大偏差相似性准则算法聚类之后的类中心负荷特征的距离来确定预测日的相似日类别;然后将聚类后的相似日类别负荷数据作为BP网络的训练数据,输出预测日起始的连续三天96整点负荷值。实验表明,该方法提出的短期电力负荷预测方法在精度和网络训练时间上都有较大的提升,具有较高的有效性和实用性。     

模糊k均值算法和神经网络算法在入侵检测中的应用

为了解决由于入侵检测样本数据多和冗余属性导致的BP神经网络训练速度慢和效率低的问题,本文提出利用模糊k均值聚类算法对样本数据依据和目标属性相关性和隶属度强弱进行聚类,优化神经网络权值。实验表明,该算法检测的准确率较高,网络入侵检测的性能和效率都得到了提高。     

基于改进极限学习机的泥石流发生预测

为提高泥石流预测预报的准确性,提出一种基于DBSCAN聚类的改进极限学习机(ELM)算法。首先,利用DBSCAN算法对泥石流发生训练的数据进行聚类处理;其次,将聚类得到的不同训练集分类训练ELM分类器;最后,利用ELM分类器对预测集数据进行预测。实验结果表明,利用改进ELM算法对泥石流发生预测的平均准确率达到91.6%,改进ELM算法的稳定性与传统ELM算法相比有明显提高,与传统ELM算法、BP神经网络和Fisher预测法相比,改进ELM算法的预测精度更高。     

探空仪湿敏电容器的误差校正模型研究

为了减小探空仪湿敏电容器在高空大气,特别是低温环境下的测量误差,设计了一种基于改进型pi-sigma模糊神经网络的误差校正模型,采用了K-means聚类算法和权值直接确定法提高了网络性能。通过实际测试和BP神经网络进行比较,结果显示:pi-sigma模糊神经网络和BP神经网络对于-30～40℃的144组训练样本的最大相对误差分别为4.774%,15.27%,收敛时间分别为0.01,2 s。4组检验样本结果证明:pi-sigma模糊神经网络有效实现了湿敏电容器在低温条件下的温度补偿和非线性校正,同时在预测精度、泛化能力以及训练速度上均优于BP神经网络。     

基于BP网络的色彩匹配方法研究

提出了一种基于ＢＰ网络的色彩匹配方法,它既解决了ＲＧＢ色彩空间到ＣＭＹＫ色彩空间的非线性转换关系,又可用于其它的色彩空间转换,首先,给出样本数据的选取和转换方案,并结合色彩匹配的特点,利用迭代组织数据分析算法实现对样本数据的动态聚类,其次,在将ＢＰ网络用于色彩匹配的过程中,设计了合理的网络结构,并对训练数据进行了规格化处理,最后,讨论了网络训练及测试情况以及在打印应用中的效果。     

遗传算法改进BP网络对织物配色的优化研究

深入研究了传统BP网络结构的优化方法,对近年来各学者所提出的新的优化方法进行了分析,并结合织物染色配色的应用领域,深入分析和改进了遗传算法对BP网络进行结构优化的思想,在训练BP网络的同时,利用遗传算法优化BP网络结构,提高了算法效率.最后通过织物染色配色仿真的计算与实验,显示了该算法的有效性.     

DNA序列分类的神经网络方法

该文将人工神经网络方法用于DNA分类，首先应用概率统计的方法对20个已知类别的人工DNA序列进行特征提取，形成DNA序列的特征向量，并将之作为样本输入BP神经网络进行学习。采用MATLAB软件包中的神经网络工具箱中的反向传播算法来训练神经网络。构造了两个三层BP神经网络，将提取的DNA特征向量集作为样本分别输入这两个网络进行学习，通过训练后，将20个未分类的人工序列样本和182个自然序列样本提取特征向量并输入两个网络进行分类，结果表明，分类方法能够以很高的正确率和精度对DNA进行分类，将人工神经网络用于DNA序列分类是完全可行的。     

一种k均值和神经网络集成的语音识别方法

提出了一种基于k均值聚类和BP神经网络集成的语音识别方法,该方法以神经网络集成模型为基础,利用k均值聚类算法选择部分有差异性的个体神经网络再进行集成学习,既克服了单个BP网络模型容易局部收敛和不稳定性的缺点,又解决了传统集成方法训练时间长和个体网络差异性不明显的问题。通过对非特定人孤立词的语音识别的实验,证实了该方法的有效性。     

蚁群算法的BP网络优化算法

利用蚁群算法和BP网络训练算法相结合的方法对无线传感网络节点路由路径搜索展开了分析研究,简单分析了蚁群算法实现的基本原理,在此基础上重点给出了基于蚁群算法的BP网络优化算法的基本原理及其实现步骤,并对该优化算法与传统的BP网络训练算法的性能进行了对比仿真测试。