基于高效用神经网络的文本分类方法

现有的基于深度学习的文本分类方法没有考虑文本特征的重要性和特征之间的关联关系,影响了分类的准确率.针对此问题,本文提出一种基于高效用神经网络（High Utility Neural Networks,HUNN）的文本分类模型,可以有效地表示文本特征的重要性及其关联关系.利用高效用项集挖掘（Mining High Utility Itemsets,MHUI）算法获取数据集中各个特征的重要性以及共现频率.其中,共现频率在一定程度上反映了特征之间的关联关系.将MHUI作为HUNN的挖掘层,用于挖掘每个类别数据中重要性和关联性强的文本特征.然后将这些特征作为神经网络的输入,再经过卷积层进一步提炼类别表达能力更强的高层次文本特征,从而提高模型分类的准确率.通过在6个公开的基准数据集上进行实验分析,提出的算法优于卷积神经网络（Convolutional Neural Networks,CNN）,循环神经网络（Recurrent Neural Networks,RNN）,循环卷积神经网络（Recurrent Convolutional Neural Networks,RCNN）,快速文本分类（Fast Text Classifier,FAST）,分层注意力网络（Hierarchical Attention Networks,HAN）等5个基准算法.     

基于深度信念网络的烟叶部位近红外光谱分类方法研究

近红外检测作为一种快速无损的检测方法得到广泛关注。但光谱中存在大量噪声以及光谱数据的高维度和非线性等特点影响了分类模型的准确率。将深信网络（DBN）的理论改进并引入光谱特征学习中,解决高维特征间非线性关系的学习问题,采用逐层训练策略和随机梯度上升法分别进行网络预训练和微调获得网络权值;并结合支持向量机（SVM）建立近红外光谱多分类模型DBN-SVM。与基于主成分分析的分类模型PCA-SVM和基于线性判别分析的LDA-SVM分类模型进行应用比较。结果表明:DBN-SVM算法能有效地学习高维数据中的内在结构和非线性关系,由该算法构建的模型具有良好的特征学习能力和分类识别能力,而且在稳健性、各类别的灵敏度和特效度也更优。     

基于VGGish网络的音频信息情感智能识别算法

针对目前对于音频信息情感的研究较少以及对音频情感进行智能分析识别缺乏成熟技术的问题,文中提出了一种基于VGGish网络的音频信息情感智能识别算法.该算法通过VGGish网络提取音频信息的特征,利用降维可视化的方法不断调整不同情感音乐数据集分布,通过SVM和LSTM模型实现了音乐情感分类.算法测试结果表明,两种分类模型均...     

基于稀疏贝叶斯的流形学习

针对当前监督学习算法在流形数据集上分类性能的缺陷,如分类精度低且稀疏性有限,本文在稀疏贝叶斯方法和流行正则化框架的基础上,提出一种稀疏流形学习算法（Manifold Learning Based on Sparse Bayesian Approach,MLSBA）.该算法是对稀疏贝叶斯模型的扩展,通过在模型的权值上定义稀疏流形先验,有效利用了样本数据的流形信息,提高了算法的分类准确率.在多种数据集上进行实验,结果表明：MLSBA不仅在流形数据集上取得良好的分类性能,而且在非流形数据集上效果也比较好;同时算法在两类数据集上均具有良好的稀疏性能.     

基于胶囊网络的中长微博情感分析

针对通过微博文本获取用户情感倾向,以提高舆情监控效率的问题。利用深度学习的方法实现微博语料的情感分类,构建符合近年文本长度分布特点的高质量微博情感分类数据集,分析微博文本长度对情感分类的影响。由于中长语料主观性强、句子关联度弱,其检测准确率偏低。针对此问题,本文提出一种基于胶囊网络的中长微博情感分析模型。采用注意力机制,在融合局部特征与全局特征的基础上,利用胶囊向量实现深层情感特征提取,提高中长语料的检测效果。利用本文搜集的数据集进行实验,结果表明,相较于多种深度学习算法,本文模型性能更佳。在不同文本长度语料的对比实验中,伴随着文本长度的增加,分类准确率逐渐降低。相较于传统的LSTM算法,本文模型随文本长度增加效果提升,证明了该模型针对中长微博文本情感分类的可行性。     

深度学习结构优化的图像情感分类

自然图像情感分类在分析用户需求、监控网络舆情等方面具有重要意义。然而基于深度学习的分类算法存在训练过程难以控制、分类结果缺乏解释的问题。为此提出一种人类知识驱动的深度学习结构优化算法。首先通过特征可视化显示卷积神经网络提取的情感特征;其次结合人类对图像情感可视化结果的感知来优化网络结构,利用人类知识驱动网络,重点学习情感信息更明显的特征;最后对所构建网络的参数进行微调,使其更适用于自然图像情感分类任务。在Twitter情感图像数据集上与其他分类方法的对比实验表明,所提出的算法获得了88.1%的分类准确率,优于其他方法。消融实验证明网络优化结果比未优化提高了8.1%。类激活图、空间位置和神经元组特征可视化直观解释了模型运作的过程与原因,进一步证实算法识别自然图像情感的能力。     

基于改进宽度模型迁移学习的不同负载下滚动轴承状态快速分类方法

针对深度学习网络训练耗时以及不同负载下滚动轴承的源域数据和目标域数据分布差异较大的问题,该文提出一种基于改进宽度模型迁移学习的滚动轴承状态快速分类方法。该方法首先对不同负载下滚动轴承振动信号进行快速傅里叶变换,构建频域幅值序列数据集,并选取某种或某些负载数据集作为源域,其他负载数据集作为目标域;其次以循环扩展的方式建立宽度学习系统(BLS)的增强节点窗口,并在增强层引入Maxout激活函数构建改进的BLS网络,同时引入遗传算法优化网络节点结构,建立基于源域数据的预训练模型;最后将预训练模型的网络参数、特征层和增强层的权重参数迁移至目标域网络,并利用少量目标域样本微调网络建立状态分类模型。实验结果表明,所提方法平均训练时间为32.6 s,平均测试准确率为98.9%。对比其他方法,所提方法可以在更短的时间内建立分类模型并获得良好的分类准确率。     

基于改进遗传算法的Web文本挖掘系统

文本分类是文本数据挖掘中一个非常重要的技术,已经被广泛地应用于信息管理、搜索引擎、推荐系统等多个领域.现有的文本分类方法很难适用于大规模的文本数据集.为此,提出了一种基于改进遗传算法的文本挖掘系统.提出的改进遗传算法极大地提高了文本挖掘系统的分类效率.实验结果表明,该方法适用于大规模文本数据集;该方法提取规则的分类正确率较高,分类速度较快.     

免疫克隆分类算法

本文提出了一种新的数据挖掘分类方法——免疫克隆分类算法（Immune Clonal Algorithm for Classification，ICAC）．ICAC是一种基于免疫克隆算法的搜索机制和Michigan方法模型的规则提取和分类方法．与遗传分类算法不同，ICAC是一种自下而上的分类算法．ICAC虽然着眼于规则的进化，但是从编码到免疫算子的设计都立足于训练样本，可避免进化过程中产生无意义规则，且产生的规则是可解释的．文中将算法用于UCI数据集，并与现有的基于非遗传算法、遗传算法和分布式遗传算法的分类方法进行了比较实验．结果表明，ICAC是一种有效的分类算法．     

基于前向神经网络的音乐情感识别分类算法

为解决单模态数据在音乐情感分类上的局限性,并同时提高对音乐情感分类的准确性,文中提出了一种基于前向神经网络的多特征融合音乐分类算法。在传统的前向神经网络模型中融入切比雪夫正交多项式簇作为隐藏层各神经元的激励函数,使每一层神经元的激励函数各不相同。利用梯度下降学习算法来进行网络参数的有监督训练;同时利用音频、歌词中不同模态的数据,使其形成多模态数据,来进行音乐情感分类模型的训练。实验测试结果表明,该算法对音乐情感的分类具有较好的效果,平均准确率为78. 37%,具有良好的有效性与可行性。     

基于改进遗传算法的入侵检测技术的设计与实现

天地一体化网络处在开放的电磁环境中,会时常遭受恶意网络入侵。为解决网络中绕过安全机制的非授权行为对系统进行攻击的问题,提出一种改进的遗传算法。该算法以决策树算法为适应度函数,通过删除数据集中的冗余特征,显著提高了对网络攻击的拦截率。通过机器学习进行异常分类,并利用遗传算法的特征选择功能,增强机器学习方法的分类效率。为验证算法的有效性,选用UNSW_NB15和UGRansome1819数据集进行训练和检测。使用随机森林、人工神经网络、K近邻和支持向量机等4种机器学习分类器进行评估,采用准确性、F1分数、召回率和混淆矩阵等指标评估算法的性能。实验证明,遗传算法作为特征选择工具能够显著提高分类准确性,并在算法性能上取得显著改善。同时,为解决弱分类器的不稳定性,提出一种集成学习优化技术,将弱分类器和强分类器集成进行优化。实验证实了该优化算法在提高弱分类器稳定性方面性能卓越。     

基于有记忆递归神经网络的脑电特征情感识别研究

为了提高脑电信号多分类的情感识别率,文中选用上海交通大学提供的SEED脑电信号数据集,对其进行分频带特征提取。将脑电数据的微分熵特征、微分不对称性特征和有理不对称性特征通过线性动力系统平滑特征后,与功率谱密度特征进行分类效果比较,再利用有记忆递归神经网络的方法进行分类,发现提取的微分熵特征经过分类的效果好。在对3种情感进行分类的过程中,采用长短时记忆神经网络分类相比于其他机器学习方法识别率有所提高,情感识别的平均准确率可达到95.045 9%。     

基于维度注意力与多尺度卷积网络的脑电分类方法研究

针对脑电信号的非平稳性、时变复杂和分类准确率较低的问题,以及传统机器学习方法在提取复杂特征方面的不足,提出了一种基于维度注意力机制的多尺度时空卷积神经网络分类模型(DIMS-CNN),旨在提高分类准确率,以更好地适用于实际应用场景。首先,对数据进行带通滤波和去伪迹,并进行了降采样和通道选择等预处理;随后,将经过处理的数据输入构建的时空卷积模型中,为了进一步增强网络的特征提取能力,加入了时序和通道的多维度注意力机制以及正则化技术;对于数据量不足的问题,采用了频带互换的方法进行数据增强,且提高了模型的泛化性能。分别在HGD数据集和实验室自采集数据集上进行验证,获得了90.97%和90.21%的平均分类准确率,发现所提方法在分类准确率上有显著提高。     

基于机器学习的地基云图分类研究进展

基于机器学习的地基云图分类是光伏发电功率预测的关键技术。该技术主要通过传统机器学习和深度学习方法对地基云图特征提取提升地基云图分类准确率。全文归纳了地基云图分类标准和云图采集设备;简要介绍了地基云图分类数据集;从传统机器学习和深度学习两方面详细论述了典型的地基云图分类方法;比较了不同方法在Kiel F和MGCD地基云图分类数据集上的性能;最后对现有地基云图分类方法进行了总结,并针对目前地基云图分类面临的挑战进行了展望。     

基于深度学习的复杂背景图像分类方法研究

复杂背景图像受背景干扰后不易被识别。针对这一问题,文中提出了基于前景分割机制的卷积神经网络图像分类方法。采用全卷积神经网络对图像前景区域进行自动分割,通过图像中前景区域周围的最小边界框对其进行定位。对于定位的前景区域,构建卷积神经网络对其进行处理以区分不同的类别,从而实现复杂背景图像的分类。将提出方法在公开数据集中提取的单一背景和复杂背景图像数据集上进行对比实验,并使用迁移学习与数据增强等方法优化模型。实验结果表明,所提方法使用前景区域分割相比于仅分类CNN具有更高的准确度,且复杂背景图像上的准确度提升幅度要远大于单一背景图像。该结果说明引入前景区域分割对于复杂背景图像分类模型准确度的提升具有一定帮助,能够显著前景区域特征并减少背景因素的干扰。     

Combining feature scaling estimation with SVM classifier design using GA approach

This letter adopts a GA （Genetic Algorithm） approach to assist in learning scaling of features that are most favorable to SVM （Support Vector Machines） classifier, which is named as GA-SVM. The relevant coefficients of various features to the classification task, measured by real-valued scaling, are estimated efficiently by using GA. And GA exploits heavy-bias operator to promote sparsity in the scaling of features. There are many potential benefits of this method： Feature selection is performed by eliminating irrelevant features whose scaling is zero, an SVM classifier that has enhanced generalization ability can be learned simultaneously. Experimental comparisons using original SVM and GA-SVM demonstrate both economical feature selection and excellent classification accuracy on junk e-mail recognition problem and Internet ad recognition problem. The experimental results show that comparing with original SVM classifier, the number of support vector decreases significantly and better classification results are achieved based on GA-SVM. It also demonstrates that GA can provide a simple, general, and powerful framework for tuning parameters in optimal problem, which directly improves the recognition performance and recognition rate of SVM.     

基于深度学习的机载激光海洋测深海陆波形分类

机载激光雷达的海陆波形分类对于沿海地区及其变化性质的研究至关重要。提出了一种在原始的机载激光雷达回波上使用深度学习进行分类的方法。构建全连接神经网络和一维卷积神经网络（CNN）,在一个测量海域的数据集上进行训练和测试,最优模型获得了99.6%的分类精度。该最优模型对来自不同测量海域的数据进行分类,分类精度达到了95.6%,相比支持向量机方法,处理速度提高了约52%。结果表明:深度学习方法对机载激光雷达回波波形的分类具有较高的精度和速度,它可以进一步作为通过机载激光测深技术对海底种类进行分类的候选方法。     

基于相应簇回声状态网络静态分类方法

借鉴模仿哺乳动物大脑皮层分簇结构的复杂网络拓扑结构,提出一种基于相应簇储备池回声状态网络的分类方法.将时间窗函数机制引入到回声状态网络储备池的构建中,利用具体问题中需分类数据的类别数量,生成具有对应分簇数目的储备池,以期提高分类精度.基于标准数据集和模拟电路故障诊断的实验验证结果表明,本文方法与标准回声状态网络等方法相...     

二元裂解算子交替方向乘子法的核极限学习机

凸优化形式的核极限学习机(KELM)具有较高的分类准确率,但用迭代法训练凸优化核极限学习机要较传统核极限学习机的解线性方程法花费更长时间。针对此问题,该文提出一种2元裂解算子交替方向乘子法(BSADMM-KELM)来提高凸优化核极限学习机的训练速度。首先引入2元裂解算子,将求核极限学习机最优解的过程分裂为两个中间算子的优化过程,再通过中间算子的迭代计算而得到原问题的最优解。在22个UCI数据集上所提算法的训练时间较有效集法平均快29倍,较内点法平均快4倍,分类精度亦优于传统的核极限学习机;在大规模数据集上该文算法的训练时间优于传统核极限学习机。