利用相对小波能量和概率网络的脑-机接口

脑-机接口是一种全新的人机接口方式,在人脑与计算机或其他电子设备之间建立的直接的交流和控制通道。特征提取和分类是脑-机接口的关键。脑电信号经过预处理后,利用脑电信号的相对小波能量作为特征,采用主分量分析进行降维,然后利用概率神经网络对两类不同的意识任务（想象小手指运动和舌头运动）进行分类。离线分析结果表明,该方法在分类准确率上有很大的提高,从而为脑-机接口系统的特征提取和分类提供了新思路。     

基于堆叠降噪稀疏自动编码器的软件缺陷预测

特征提取是软件缺陷预测中的关键步骤,特征提取的质量决定了缺陷预测模型的性能,但传统的特征提取方法难以提取出软件缺陷数据的深层本质特征。深度学习理论中的自动编码器能够从原始数据中自动学习特征,并获得其特征表示,同时为了增强自动编码器的鲁棒性,本文提出一种基于堆叠降噪稀疏自动编码器的特征提取方法,通过设置不同的隐藏层数、稀疏性约束和加噪方式,可以直接高效地从软件缺陷数据中提取出分类预测所需的各层次特征表示。利用Eclipse缺陷数据集的实验结果表明,该方法较传统特征提取方法具有更好的性能。     

基于多特征和BP神经网络的脑-机接口研究

研究了一种基于运动想象识别的脑-机接口(BCI)系统,通过提取想象过程中的脑电信号(EEG)中Alpha波特征,采用多特征分类的方法,以提高脑-机接口系统运动想象识别的正确率。针对脑电信号单特征分类精确度低、耗时长等缺点,采用自回归模型法、统计特征提取和频域分析的方法对Alpha波提取多个特征值,利用BP神经网络进行分类,对运动想象进行识别。通过实验验证了其识别率较高,取得了预期的效果,证明了多特征融合结合BP神经网络运用于脑机接口系统的可行性。     

基于主动深度学习的高光谱影像分类

针对当前高光谱遥感影像分类人工标注样本费时费力,大量未标注样本未得到有效利用以及主要利用光谱信息而忽视空间信息等问题,提出了一种空-谱信息与主动深度学习相结合的高光谱影像分类方法。首先利用主成分分析对原始影像进行降维,在此基础上提取像素的一正方形小邻域作为该像素的空间信息并结合其原始光谱信息得到空谱特征。然后,通过稀疏自编码器得到原始数据的稀疏特征表达,并通过逐层无监督学习稀疏自编码器构建深度神经网络,输出原始数据的深度特征,将其连接到softmax分类器,利用少量标记样本以监督学习的方式完成模型的精调。最后,利用主动学习算法选择最不确定性样本对其进行标注,并加入至训练样本以提高分类器的分类效果。分别对PaviaU影像和PaviaC影像进行分类实验的结果表明,该方法在少量标记样本情况下,相对于传统方法能有效地提高分类精度。     

基于自动编码器组合的深度学习优化方法

为了提高自动编码器算法的学习精度,更进一步降低分类任务的分类错误率,提出一种组合稀疏自动编码器(SAE)和边缘降噪自动编码器(mDAE)从而形成稀疏边缘降噪自动编码器(SmDAE)的方法,将稀疏自动编码器和边缘降噪自动编码器的限制条件加载到一个自动编码器(AE)之上,使得这个自动编码器同时具有稀疏自动编码器的稀疏性约束条件和边缘降噪自动编码器的边缘降噪约束条件,提高自动编码器算法的学习能力。实验表明,稀疏边缘降噪自动编码器在多个分类任务上的学习精度都高于稀疏自动编码器和边缘降噪自动编码器的分类效果;与卷积神经网络(CNN)的对比实验也表明融入了边缘降噪限制条件,而且更加鲁棒的SmDAE模型的分类精度比CNN还要好。     

自编码网络在JavaScript恶意代码检测中的应用研究

针对传统机器学习特征提取方法很难发掘JavaScript恶意代码深层次本质特征的问题,提出基于堆栈式稀疏降噪自编码网络(sSDAN)的JavaScript恶意代码检测方法。首先将JavaScript恶意代码进行数值化处理,然后在自编码网络的基础上加入稀疏性限制,同时加入一定概率分布的噪声进行染噪的学习训练,使得自动编码器模型能够获取数据不同层次的特征表达;再经过无监督逐层贪婪的预训练和有监督的微调过程可以得到有效去噪后的更深层次特征;最后利用Soft max函数对特征进行分类。实验结果表明,稀疏降噪自编码分类算法对JavaScript具有较好的分类能力,其准确率高于传统机器学习模型,相比随机森林的方法提高了0.717%,相比支持向量机(SVM)的方法提高了2.237%。     

新型稀疏自动编码器组合的深度学习方法

针对自动编码器在强噪声环境下分类效果低的特征,提出了基于改进型稀疏自动编码器组合的深度学习方法。在采用计算相关熵的方法,增强了稀疏自动编码器对非高斯噪声的鲁棒性的基础上,利用卷积神经网络对自动编码器进行边缘降噪,接着将改进后的稀疏自动编码器和边缘降噪自动编码器相结合,得到新的稀疏边缘降噪自动编码器。实测数据的实验结果表明,新的稀疏边缘降噪自动编码器比现有的分类算法,计算时间更短、准确率更高、效果更明显。     

张量时频空模式在脑电信号特征提取中的研究

为了提高脑机接口系统的分类准确率,论文对张量时频空模式分析特征提取算法进行了研究.该算法能够得到多维度上最佳分类特征,应用在模拟阅读脑-机接口脑电信号的特征提取中,与共空间模式相比,张量时频空模式能够得到更高的分类准确率.     

基于融合型深度学习的滚动轴承亚健康识别算法

深度学习模型增加了隐含层的层数,使得该模型在语音识别、图像视频分类等方面取得了不错的效果;但建立一个适合特定对象的模型需要大量的数据集来训练,而且需要较长时间才能获得合适的权重和偏置,为此提出一种基于深度自动编码器-相关向量机网络模型的滚动轴承亚健康诊断方法。首先,采集滚动轴承振动信号并进行傅里叶变换和归一化处理;其次,设计改进的自动编码器-稀疏边缘降噪自动编码器,结合了稀疏自动编码器和边缘降噪自动编码器的特点;接着建立深度自动编码器-相关向量机网络模型,用有监督的函数对各个隐含层的参数进行微调,并利用相关向量机（RVM）进行训练;最后将得到的分类根据D-S证据理论融合并得出最终的分类结果。实验结果表明所提算法能有效提高滚动轴承"亚健康"状态的识别精度,纠正错误分类。     

基于Lorentz函数的稀疏约束RBM模型的算法研究

受限玻尔兹曼机（Restricted Boltzmann Machine,RBM）是一种有效的特征提取算法,受视觉皮层稀疏表示的启发,人们试图将稀疏这一概念引入到RBM中,以期学习到原始数据的稀疏表示,提高其特征提取性能。将Lorentz函数引入到RBM中,作为RBM的稀疏约束正则项,构建基于Lorentz函数的稀疏约束RBM模型,将其称之为LRBM模型。对该模型的特征提取性能进行了可视化评价,同时对稀疏度和分类率进行了实验分析;最后将多个LRBM叠加,构造基于LRBM的深度置信网模型并分析该深度网络的性能。实验表明,LRBM模型有效地提取了数据集中的特征信息,在分类效果上较RBM平均提高了2%左右,增强了目标分类的可靠性。     

深度稀疏自编码器在ECG特征提取中的应用

针对心电（ECG）信号智能分析模型中,复杂波形的特征提取困难,人工设计特征造成源信号特征丢失,标签样本不足等问题,提出了一种基于深度稀疏自编码器（Deep Sparse Auto-Encoders,DSAEs）的ECG特征提取方法。该方法在DSAEs进行贪婪逐层训练时,采用适应性矩阵估计（Adaptive moment estimation,Adam）对网络权重进行寻优,以此获得最优参数组合,同时提取出高层隐含层的输出,并作为ECG高度抽象的低维特征。最后利用支持向量机（Support Vector Machines,SVM）构建分类模型,完成对ECG的特征分类。使用MIT-BIH心律失常数据库的ECG数据进行仿真实验,结果表明,提出的ECG特征提取方法能有效地分层抽取特征,提高分类识别准确率。     

结合卷积神经网络和三支决策的入侵检测算法

随着网络入侵行为的多样化和智能化,传统的入侵检测算法在面对高维特征、非线性的海量数据时,存在特征提取不充分、模型分类不够精确等问题,为此,提出了一种结合卷积神经网络（convolutional neural networks,CNN）和三支决策（three-way decision,TWD）的入侵检测算法。卷积神经网络具有优越的特征提取能力;同时,三支决策可以规避因信息不足而盲目分类造成的风险,且减少分类所耗费的时间。该方法通过卷积神经网络对高维数据进行特征提取,构建多粒度特征空间,然后基于三支决策理论对网络行为做出即时决策,对于无法即时决策的网络行为进行延迟决策,即对该部分网络行为再次特征提取以构建不同的粒度特征空间,最后输出分类结果。该方法建立的模型在NSL-KDD、CIC-IDS2017数据集上的实验结果表明,提出的算法可以提升入侵检测系统的性能。     

深度学习在肺结节辅助诊断中的应用

肺癌位居癌症死亡率首位,对其进行早期诊断和治疗可降低肺癌患者的死亡率。深度学习能够自动提取结节特征,并完成肺结节的良恶性及恶性等级分类,因此深度学习方法成为肺癌早期诊断的重要手段。对常用数据集进行介绍,系统阐述了栈式去噪自编码器（SDAE）、深度置信网络（DBN）、生成对抗网络（GAN）、卷积神经网络（CNN）、循环神经网络（RNN）和迁移学习技术在肺结节良恶性分类中的应用,阐述了深度卷积生成对抗网络（DCGAN）、多尺度卷积神经网络（MCNN）、U型网络（U-Net）和集成学习技术在肺结节恶性等级分类中的应用,针对肺结节分类的深度学习方法进行了综合分析,并对未来研究方向进行展望。     

基于支持向量机的思维脑电信号特征分类研究

探索一种实用的基于想象运动思维脑电的脑-机接口(BCI)方式,为实现BCI应用奠定比较坚实的理论和实验基础。对6名受试者进行三种不同时段(箭头出现2s、1s和0s后提示按键)情况下想象左右手运动思维作业的信号采集实验,利用小波变换和支持向量机对实验数据进行离线处理。对三种情况下的延缓时间△t0、△t1和△t2分析发现:△t0与△t1和△t2之间都有显著性差别(p<0.05),而△t1与△t2之间没有显著差别(p>0.05);平均分类正确率分别达到68.00%、80.00%和56.67%(p<0.05);实际按键前0.5~1s左右,想象左右手运动的思维脑电特征信号都发生了明显改变。通过合理的实验设计获取的信号有助于识别正确率的提高,为BCI系统中思维任务的特征提取与识别分类提供了新思路和方法。     

基于多维特征及BP网络的高分辨雷达目标识别

高分辨雷达目标的识别性能取决于目标特征的提取以及分类器的设计。为解决雷达高分辨距离像（HRRP）的方位、平移和幅度敏感性问题,采用了序贯预处理方法,有效提高了HRRP的信噪比。通过提取能较好反映雷达目标散射点回波特性的多维特征向量,设计BP神经网络作为分类器,提出了一种基于目标多维特征向量以及BP神经网络的高分辨雷达目标识别方法。利用在微波暗室测量获得的三种国产飞机模型回波数据进行目标识别处理,实验结果表明,提出的方法能有效地完成三种目标识别任务,在虚警率低于3%的情况下正确识别率优于95%。     

3D迁移网络的阿尔茨海默症分类研究

阿尔兹海默症目前还无法被治愈,若能对其正确诊断,则可采用正确治疗方式延缓病人病情。为减少人工诊断的时间和成本,采用机器学习方法来辅助人工诊断阿尔兹海默症,提出了一种利用3D核磁共振成像信号来诊断的迁移学习方法。该方法采用MobileNet迁移网络来提取瓶颈特征,并增加了一个有监督训练的顶层来进一步降维和提取特征,最后在分类层中将被试者所有切片的特征进行合并和训练,完成阿尔兹海默症与正常控制的分类。该方法的优点在于,可使网络的训练时间下降,提高分类准确率。实验采用了OASIS数据对该方法进行测试,结果表明,该方法的分类准确率比传统迁移学习网络提高了约8个百分点,而时间只有传统迁移方法的1/60。     

基于卷积-LSTM网络的广告点击率预测模型研究

点击率预测是计算广告学的核心算法之一。传统浅层模型没有充分考虑到数据之间存在的非线性关系，且使用人工特征提取方法费时费力。针对这些问题，提出了基于卷积（Convolutional Neural Networks）-LSTM（Long Short Term Memory）混合神经网络的广告点击率预测模型。该模型使用卷积神经网络提取高影响力特征，并通过LSTM神经网络的时序性进行预测分类。实验结果证明：与浅层模型或单一结构的神经网络模型相比，基于卷积-LSTM的混合神经网络模型能有效提高广告点击事件的预测准确率。     

主成分分析和超限学习机的模拟电路故障诊断

为提高模拟电路故障诊断特征信息提取的完整性,实现故障模式分类的准确性,达到网络训练测试的快速性,提出了一种基于主成分分析（Principal Components Analysis,PCA）和极限学习机（ELM）相结合的模拟电路故障诊断新方法。在OrCAD16.3中通过设置仿真模拟电路元器件参数及其容差,获得电路各状态的MonteCarlo样本数据,经PCA降维提取特征信息以获得最优的特征模式,继而采用ELM对故障进行分类识别。以Sallen-Key带通滤波器电路为实例进行仿真研究,结果表明该方法具有特征提取效果好,神经网络训练学习速度快,故障诊断效率高,泛化性能好等特点。     

基于改进栈式稀疏去噪自编码器的图像去噪

为了提高栈式稀疏去噪自编码器（SSDA）的图像去噪性能,解决计算复杂度高,参数不易调节,训练收敛速度慢等问题,提出了一种栈式边缘化稀疏去噪自编码器（SMSDA）的图像去噪方法。首先,由于边缘化去噪自编码器（MDA）具有收敛速度快这一特性,对SDA网络损失函数作边缘化处理,形成边缘化稀疏去噪自编码器（MSDA）,使其同时满足边缘性和稀疏性。其次,将多个MSDA堆叠构成深度神经网SMSDA,为避免模型参数局部最优,采用非监督逐层训练法分别训练每一层网络,再用BP算法对整个网络微调,从而获得最优权重。最后,用SMSDA对给定图像去噪。仿真结果表明,较SSDA而言,所提算法在降低计算复杂度、提高收敛速度的同时,拥有较高峰值信噪比（PSNR）,且保留了更多原始图像的细节信息,具有更好的降噪性能。     

结合缠论和深度学习的股价拐点预测研究

针对股市存在伪分型且分型数据集的类别样本不平衡问题,提出了一种结合缠论和深度学习的拐点预测方法（SMOTE-FLCN-WSVM）。在缠论的基础上,对数据集进行拐点的标注。深度学习模型从数据、特征以及分类算法三个层面对不平衡问题进行改进。首先采用SMOTE过采样算法对数据集进行预处理;再针对不平衡数据集特征提取困难的问题,使用引入Focal Loss的卷积神经网络挖掘数据的深层特征;然后利用引入类别权重参数的支持向量机对提取的特征进行分类。实验从实用性与有效性出发,选择绝对收益、相对收益与准确率对模型进行对比实验与收益评估。实验结果表明,所提模型具有可行性与实际应用价值。