相似性约束的深度置信网络在SAR图像目标识别的应用

特征提取是合成孔径雷达(SAR)图像目标识别的关键环节。SAR图像中存在的相干斑点和非光滑特性使得传统针对光学图像的特征提取方法变得很难应用。虽然可以采用深度置信网络(DBN)自动地进行特征学习,但是该方法属于无监督学习方法,这使得学习到的特征与具体的任务是无关的。该文提出一种叫做相似性约束的受限玻尔兹曼机模型。该模型在学习过程中通过约束特征向量之间的相似性达到引入监督信息的目的。另外,可以将多个相似性约束的受限玻尔兹曼机堆叠成一种新的深度模型,称其为相似性约束的深度置信网络模型。实验结果表明在SAR图像目标识别应用中,该方法相比主成分分析(PCA)以及原始DBN具有更好的识别性能。     

基于多尺度主线方向特征的DBN分类方法

针对深度信念网络（DBN）结构自身未考虑到二维图像空间结构信息、分类准确识别率不高等问题,提出了一种基于多尺度主线方向特征的DBN网络图像分类新方法（MSMD-DBN方法）。该方法首先提取多尺度的线方向特征图和能量图,再通过二值化、细化能量图得到主线方向特征图,然后在可视层输入端加入多尺度主线方向信息特征图,并利用深度信念网络进行图像分类识别。旨在通过增加输入信息的维度,来达到提升图像分类性能的目的。在CIFAR-10和MNIST两个数据库上对不同样本的图像进行分类实验,结果表明,与采用传统DBN网络和DBN的改进算法相比,本文算法的分类性能取得了显著的提高。     

基于Gist特征与CNN的场景分类方法

针对大多数场景分类方法只能学习浅层特征,忽略图像之间的相关结构信息,提出一种基于Gist特征与卷积神经网络结合的场景图像分类方法.其中Gist特征用于提取场景图像的全局特征,并将其作为深度学习模型的输入,通过逐层训练卷积神经网络,提取更高层次的特征,并用训练好的卷积神经网络进行分类.实验在O&T室外场景图像数据集和MNIST手写体数据集上考察了batchsize、卷积核对分类结果的影响,并与DBN,NN,SVM和CART作为分类器的分类结果进行比较,充分说明了本文方法的有效性.     

基于SLBP深度信念网络的人脸识别研究

针对传统局部二值模式(LBP)特征提取不充分和分类器拟合的问题,提出一种基于局部纹理特征的显著局部二值模式(SLBP)和深度学习的人脸识别方法。首先,利用改进的SLBP算法提取人脸图像局部纹理特征,建立SLBP直方图;然后构建基于深度信念网络的深度学习架构,将SLBP直方图输入到深度信念网络中,采用无监督逐层训练法和有监督BP算法去训练网络,实现网络的自学习和自优化,得到网络参数;最后,利用DBN分类、识别人脸图像。仿真实验证实,所提人脸识别方法在识别率和鲁棒性方面优于传统人脸识别方法。     

深度信念网络在童装样板设计中的应用研究

为了追求童装的时尚化、个性化、品牌化、定制化,满足儿童随着年龄增长对童装的需求,提出采用深度信念网络(DBN)的方法,将儿童相应的各部位尺寸作为输入参数,童装细部规格尺寸作为输出参数,采用CD算法和多层无监督的受限玻尔兹曼机(RBM)训练,引入交叉熵代价函数避免Sigmoid函数曲线变化率接近0时对学习速率的影响,利用改进型BP神经网络的反向传播算法进行整个网络的微调,逐渐逼近童装实际尺寸,建立童装纸样设计的深度信念网络模型。实验结果表明:运用深度信念网络(DBN)进行童装样板设计,有较高的准确度和较高的应用价值。     

基于深度置信网络和双谱对角切片的低截获概率雷达信号识别

基于深度置信网络(DBN)对信号双谱对角切片(BDS)结构特征进行学习,实现低截获概率(LPI)雷达信号识别。该方法首先建立基于受限玻尔兹曼机(RBM)的DBN模型,对LPI雷达信号的BDS数据进行逐层无监督贪心学习,然后运用后向传播(BP)机制在有监督学习方式下根据学习误差对DBN模型参数进行微调,最后基于该BDS-DBN模型实现未知信号的分类和识别。理论分析和仿真结果表明,信噪比高于8 dB时,基于BDS和DBN的识别方法对调频连续波(FMCW), Frank, Costas, FSK/PSK 4类LPI信号的综合识别率保持在93.4%以上,高于传统的主成分分析加支持向量机法(PCA-SVM)和主成分分析加线性判别分析法(PCA-LDA)。     

基于SSA-ELM的光缆故障模式识别方法

针对光时域反射仪(OTDR)曲线故障点模式识别精度低的问题，提出了一种基于OTDR曲线分析的光缆故障模式识别方法，将OTDR检测到的光功率数据绘制成曲线后，对该曲线进行三层小波包分解与重构，提取归一化的小波能量作为特征向量。最后利用麻雀搜索算法(SSA)优化极限学习机(ELM)对特征向量进行模式识别，该算法不仅利用了ELM非监督学习的高效率以及较强泛化能力的优势，还充分结合SSA较强的全局搜索能力优化ELM的权值和阈值，正确的分类精度为98.33%。实验证明该方法比支持向量机、反向传播神经网络等传统方法分类精度高，在实际应用中有重要意义。     

基于仿真雷达图像的低空风切变类型识别研究

采用基于小波变换提取纹理特征和BP神经网络对低空风切变的类型识别进行仿真研究。利用已有的仿真雷达数据生成仿真雷达扫描图像,通过阈值分割提取风切变区域,之后对其进行二层小波分解,求取各子带小波系数的均值和标准差作为特征向量。最后利用BP神经网络对特征向量进行识别分类。仿真结果比较理想,表明算法具有良好可行性。     

基于深度学习的装备故障诊断方法

深度学习作为模式识别和机器学习领域的最新成果,在装备故障诊断和健康管理方面有着广阔的前景。结合装备故障大数据的特点和深度学习理论的优势,提出一种新的装备故障诊断方法。根据去噪自动编码器原理,实现训练网络的无监督特征学习,完成整个神经网络的构建;根据故障种类确定输出层,使用BP算法对整个网络进行有监督微调,提升故障分类的准确度。利用上述方法,通过实验完成了某通信电台的模块级故障诊断。     

基于迁移学习和SVM的糖网图像分类

为解决基于卷积神经网络(CNN)的糖尿病视网膜病变(DR)图像分类算法上普遍存在模型参数难以训练、易过拟合的问题,本文提出一种基于迁移学习和支持向量机(SVM)分类器的DR图像分类算法。首先,对DR图像进行预处理和数据扩增;其次,采用迁移学习方法预初始化深度学习分类算法中的经典框架VGGNet-16网络的模型参数,固定浅层网络参数不变,微调深层网络参数;最后,提取VGGNet-16最后一个隐藏层的特征向量训练支持向量机(SVM)分类器判定DR图像是否病变。实验结果表明,在Kaggle-DR公共数据集共35126张DR图像进行实验,在随机抽取的3500张作为测试集,分类准确率为0.931、敏感性为0.933、特异性为0.928,并能加快网络收敛和提高模型的泛化性。     

基于深度信念网络的事件识别

事件识别是信息抽取的重要基础.为了克服现有事件识别方法的缺陷,本文提出一种基于深度学习的事件识别模型.首先,我们通过分词系统获得候选词并将它们分为五种类型.然后选择六种识别特征并制定相应的特征表示规则用来将词转化为向量样例.最后我们通过深度信念网络抽取词的深层语义信息,并由Back-Propagation(BP)神经网络识别事件.实验显示模型最高F值达85.17%.同时,本文还提出了一种融合无监督和有监督两种学习方式的混合监督深度信念网络,该网络能够提高识别效果(F值达89.2%)并控制训练时间(增加27.50%).     

基于一种杂交学习算法的自适应复信道均衡技术

本文提出了一种基于多层前馈神经网络杂交学习算法的自适应复信道均衡的新方法。该学习算法用来训练一个输入、输出、权值和激活函数均为复数的神经网络。神经网络的训练利用了监督和非监督相结合的杂交技术,而权值的调整是基于TLS（total least square)准则进行的。计算机仿真结果表明,无论是在线性还是在非线性信道中,所提出的方法都表现出了很好的性能,这为自适应复信道均衡提供了一种新方法。     

基于深度信念网络的铁路信号设备故障识别

针对现有铁路信号设备故障识别算法特征提取不准确导致正确率偏低的问题,提出了深度信念网络(DBN)的故障识别模型。该模型首先利用无监督训练方法对DBN的多个堆叠受限玻尔兹曼机(RBM)进行预训练,获得网络初始参数;然后,结合铁路信号设备识别问题,构建BP神经网络,利用有标签样本进行反向传播训练,实现网络参数微调。实验结果表明,该模型避免特征提取的人工操作,能够有效实现铁路信号设备故障的准确智能识别。     

基于特征解耦的无监督水下图像增强

水介质的吸收和散射特性致使水下图像存在不同类型的失真,严重影响后续处理的准确性和有效性。目前有监督学习的水下图像增强方法依靠合成的水下配对图像集进行训练,然而由于合成的数据可能无法准确地模拟水下成像的基本物理机制,所以监督学习的方法很难应用于实际的应用场景。该文提出一种基于特征解耦的无监督水下图像增强方法,一方面,考虑获取同一场景下的清晰-非清晰配对数据集难度大且成本高,提出采用循环生成对抗网络将水下图像增强问题转换成风格迁移问题,实现无监督学习;另一方面,结合特征解耦方法分别提取图像的风格特征和结构特征,保证增强前后图像的结构一致性。实验结果表明,该方法可以在非配对数据训练的情况下,能够有效恢复水下图像的颜色和纹理细节。     

基于卡口上下文和深度置信网络的车辆轨迹预测模型研究

针对车辆轨迹预测中节点序列的时序特性和实际路网中的空间关联性,该文提出一种基于深度置信网络和SoftMax (DBN-SoftMax)轨迹预测方法.首先,考虑到轨迹在节点集合中的强稀疏性和一般特征学习方法对新特征的泛化能力不足,该文利用深度置信网络(DBN)较强的无监督特征学习能力,达到提取轨迹局部空间特性的目的;然后,针对轨迹的时序特性,该文采用逻辑回归的预测思路,用当前轨迹集在路网特征空间中的线性组合来预测轨迹;最后,结合自然语言处理领域中的词嵌入的思想,基于实际轨迹中节点存在的上下文关系,运用节点的向量集表征了节点间的交通时空关系.实验结果表明该模型不仅能够有效地提取轨迹特征,并且在拓扑结构复杂的路网中也能得到较好的预测结果.     

基于GFMM神经网络的雷达目标识别方法

新型的无师训练（General Fuzzy Min—Max，GFMM）神经网络是一种具备无师训练聚类识别能力的新型神经网络，它继承了原有GFMM网络的特点，在网络的拓扑结构和算法方面进行了较大的改进，增加了能够进行自适应在线学习的能力。基于无师训练GFMM神经网络的雷达目标识别方法完整地实现了雷达目标特征学习和识别的一体化过程。在某型对海警戒雷达舰船目标识别仿真应用实验中的结果表明：文中的方法优于其他传统的神经网络目标识别方法，在雷达目标识别方面具有良好的适用性。     

基于卡口上下文和深度置信网络的车辆轨迹预测模型研究

针对车辆轨迹预测中节点序列的时序特性和实际路网中的空间关联性,该文提出一种基于深度置信网络和SoftMax (DBN-SoftMax)轨迹预测方法。首先,考虑到轨迹在节点集合中的强稀疏性和一般特征学习方法对新特征的泛化能力不足,该文利用深度置信网络(DBN)较强的无监督特征学习能力,达到提取轨迹局部空间特性的目的;然后,针对轨迹的时序特性,该文采用逻辑回归的预测思路,用当前轨迹集在路网特征空间中的线性组合来预测轨迹;最后,结合自然语言处理领域中的词嵌入的思想,基于实际轨迹中节点存在的上下文关系,运用节点的向量集表征了节点间的交通时空关系。实验结果表明该模型不仅能够有效地提取轨迹特征,并且在拓扑结构复杂的路网中也能得到较好的预测结果。     

Application of neural networks for sea ice classification inpolarimetric SAR images

Several automatic methods have been developed to classify sea ice types from fully polarimetric synthetic aperture radar (SAR) images, and these techniques are generally grouped into supervised and unsupervised approaches. In previous work, supervised methods have been shown to yield higher accuracy than unsupervised techniques, but suffer from the need for human interaction to determine classes and training regions. In contrast, unsupervised methods determine classes automatically, but generally show limited ability to accurately divide terrain into natural classes. In this paper, a new classification technique is applied to determine sea ice types in polarimetric and multifrequency SAR images, utilizing an unsupervised neural network to provide automatic classification, and employing an iterative algorithm to improve the performance. The learning vector quantization (LVQ) is first applied to the unsupervised classification of SAR images, and the results are compared with those of a conventional technique, the migrating means method. Results show that LVQ outperforms the migrating means method, but performance is still poor. An iterative algorithm is then applied where the SAR image is reclassified using the maximum likelihood (ML) classifier. It is shown that this algorithm converges, and significantly improves classification accuracy. The new algorithm successfully identifies first-year and multiyear sea ice regions in the images at three frequencies. The results show that L- and P-band images have similar characteristics, while the C-band image is substantially different. Classification based on single features is also carried out using LVQ and the iterative ML method. It is found that the fully polarimetric classification provides a higher accuracy than those based on a single feature. The significance of multilook classification is demonstrated by comparing the results obtained using four-look and single-look classifications     

基于生成对抗网络的无监督域适应分类模型

生成适应模型利用生成对抗网络实现模型结构,并在领域适应学习上取得了突破.但其部分网络结构缺少信息交互,且仅使用对抗学习不足以完全减小域间距离,从而使分类精度受到影响.为此,提出一种基于生成对抗网络的无监督域适应分类模型（Unsupervised Domain Adaptation classification model based on GAN,UDAG）.该模型通过联合使用生成对抗网络和多核最大均值差异度量准则优化域间差异,并充分利用无监督对抗训练及监督分类训练之间的信息传递以学习源域分布和目标域分布之间的共享特征.通过在四种域适应情况下的实验结果表明,UDAG模型学习到更优的共享特征嵌入并实现了域适应图像分类,且分类精度有明显提高.     

基于半监督联合神经网络的调制识别算法

针对基于有监督学习通信信号分类算法需要大量有标签训练样本,而在实际场合大多无法满足数量要求的问题,提出利用数据驱动模型的半监督学习方法,通过对比预测编码无监督算法预训练和有监督学习相结合,利用LSTM (long short term memory)和ResNet (residual network)联合神经网络实现小样本自动提取特征,提高小样本条件下信号识别准确率。在真实通信调制信号集上实验表明,半监督联合神经网络结构较以往方法,识别准确率提升3%-20%,小样本条件下性能提高60%,同时在低信噪比条件下识别能力突出,0dB时对11种调制信号平均识别正确率达到92%,具有明显优势。