基于自监督特征提取的机械异常声音检测

基于声音诊断的机械设备异常状态检测在工业自动化领域具有重要意义。当前,无监督机械设备异常声音检测主要基于人工构造算法提取声音信号特征,再以此特征进一步进行异常检测,人工提取方法存在人为因素影响较大、通用性不强等问题。针对这些问题,提出一种自监督特征提取新方法,并将提取的特征输入自编码器（AE）进行机械设备异常声音检测。该方法首先将声音样本转换为时频谱图,采用设备正常声音的时频谱图作为训练样本,然后使用正常时频谱图和人为构造异常时频谱图构建自监督特征提取器（SSFE）,以SSFE提取的正常样本特征训练AE,实现无监督机械设备异常声音识别。使用MIMII公开数据集进行实验,结果表明所提方法能够自适应提取滑轨、阀门、水泵和风扇等4种机械设备的声音特征,最终获得的平均曲线下面积（AUC）检测结果为88.5%,相较于线性声谱图、对数梅尔谱、梅尔频率倒谱系数等人工特征提取方法的结果有显著提升。     

基于自注意力的无监督室内定位信号异常检测

基于射频信号的室内指纹定位技术,以其精度高、部署成本低等优点被广泛运用于室内定位领域。室内信号环境的变化会直接影响定位精度。深度神经网络也用于时序数据异常检测,在此基础上,提出了一种基于自注意力机制的无监督室内定位信号异常检测模型。训练模型的输入是易获得的正常信号环境下无位置标签的指纹数据。该模型的注意力模块关注提取指纹数据中不同信号来源之间的相互关联,结合关联误差和重构误差来放大正常与异常的可区分性,从而提升室内定位信号检测的精度。在实验室采集的蓝牙信号数据集和一个公开的Wi-Fi数据集UJIIndoor Loc中进行性能评估,实验结果表明,与其他算法相比,所提模型具有最好的异常检测性能。     

基于多特征提取自编码器的网络流量异常检测算法

随着网络攻击的复杂化、自动化和智能化水平的不断提高,网络中不断涌现出新的攻击类型,给基于特征码的网络攻击检测和及时响应带来极大挑战。为了更加有效准确的识别异常流量,提出一种基于多特征提取自编码器的网络流量异常检测算法。算法自定义基于多特征提取的自编码器模型,由5个不同的Encoder模块构成编码器,1个Decoder模块构成解码器,能够同时提取流量中的空间特征和时间特征,且能有效避免产生退化现象,有效检测异常流量。同时,自定义SMOTE-新样本过采样法来解决数据不均衡问题,使用方差分析进行特征选择,优化数据,降低模型复杂度,大大缩短检测时间,提高算法的检测实时性。实验结果表明,提出的算法在网络流量异常检测的准确率方面比当前同类最优算法提升了1%,对百万条流量数据的检测时间减少了4.22 s。     

YUV空间中基于稀疏自动编码器的无监督特征学习

现有无监督特征学习算法通常在RGB色彩空间进行特征提取,而图像和视频压缩编码标准则广泛采用YUV色彩空间。为了利用人类视觉特性和避免色彩空间转换所消耗的计算量,该文提出一种基于稀疏自动编码器在YUV色彩空间进行无监督特征学习的方法。首先在YUV空间随机采集图像子块并进行白化处理,然后利用稀疏自动编码器进行无监督局部特征学习。在预处理阶段,针对YUV空间亮度和色度通道相互独立的特性,提出一种将亮度和色度进行分离的白化措施。最后用学习到的局部特征在大尺寸图像上进行卷积操作从而获得全局特征,并送入图像分类系统进行性能测试。实验结果表明：只要对亮度分量进行适当的白化处理,在YUV空间中的无监督特征学习就能够获得相当于甚至优于RGB空间的彩色图像分类性能。     

基于无监督学习的无线网络性能异常检测方法

在无线网络的实际运营中,性能异常检测主要依靠人工规则和阈值,对网络容量和覆盖等进行判断,检测手段单一,难以适应复杂多变的无线网络变化趋势。针对该问题,就无线移动网络性能异常的诊断识别问题,给出了三类通用的检测方法,分别为基于统计特征的异常检测、基于密度的异常检测以及基于聚类的异常检测,并选取现网性能指标数据,对三种算法进行评估分析,结果表明,基于聚类的异常检测算法在对无线网络诊断识别上效果最好。     

基于子空间重构的无监督时间序列异常检测

时间序列异常检测旨在寻找时间序列中不符合预期的数据,为相关人员提供有价值的信息,一直以来都受到学术界和工业界的广泛关注。然而,现有时间序列异常检测方法大多忽略了复杂数据中的多种模式,不能充分利用已有模式信息进行有效的特征学习,造成检测效果不理想。为此,本文提出了一种基于子空间重构的无监督时间序列异常检测模型。首先,将原始时间序列转换至低维潜在空间,利用高斯混合模型在潜在空间聚类,将原始时间序列分割为多个独立子空间。之后,各个子空间训练子模型,实现多模式捕获。最后,通过各个子模型重构,实现异常检测。该模型在UCR和MIT-BIH的6个数据集上的检测效果显著地优于已有方法,证明了方法的有效性。     

基于改进CURE聚类算法的无监督异常检测方法

提出了一种基于改进的CURE聚类算法的无监督异常检测方法.在保证原有CURE聚类算法性能不变的条件下,通过对其进行合理的改进获得更加理想的簇,也为建立正常行为模型提供了更加纯净的正常行为数据.在建模过程中,提出了一种新的基于超矩形的正常行为建模算法,该算法有助于迅速、准确地检测出入侵行为.实验采用KDDcup99数据,实验结果表明该方法能够有效地检测网络数据中的已知和未知入侵行为.     

自编码器及其应用综述

自编码器作为典型的深度无监督学习模型,能够从无标签样本中自动学习样本的有效抽象特征.近年来,自编码器受到广泛关注,已应用于目标识别、入侵检测、故障诊断等众多领域中.基于此,对自编码器的理论基础、改进技术、应用领域与研究方向进行了较全面的阐述与总结.首先,介绍了传统自编码器的网络结构与理论推导,分析了自编码器的算法流程,...     

基于自监督学习实现电子显微图像降噪

在电子显微镜的表征工作中,噪声可以掩盖或者干扰有用的信号并对后续研究造成不可忽视的影响。本文提出了一种使用自监督深度学习技术对电子显微图像进行降噪的新方法,该方法搭建了基于U-Net的新型降噪神经网络模型,利用最大模糊池化以及注意力机制提高降噪能力。最后,本研究通过多种电子显微实验数据验证了所提出方法的有效性。相比有监督学习,本方法更适合难以获得干净数据的电子显微图像场景,此外,本方法比传统机器学习拥有更好的降噪效果和效率。     

基于钉板分布稀疏变分自编码器的异常检测算法研究

异常检测由于其广泛的应用一直是数据挖掘中一个重要的研究分支,它有助于研究人员获得重要的信息进而对数据做出更好的决策。提出了一种基于钉板分布稀疏变分自编码器的异常检测模型。首先,使用离散-连续混合模型钉板分布作为变分自编码器的先验,模拟隐变量所在空间的稀疏性,得到数据特征的稀疏表示;其次,以所提出的自编码器构建深度支持向量网络,对特征空间进行压缩,并采用最优超球体区分正常数据和异常数据;再次,以数据特征和超球体中心之间的欧氏距离完成异常检测;最后,在基准数据集MNIST （modifiednational institute of standards and technology database）和Fashion-MNIST上的实验评估表明,与现存的异常检测算法相比,本文所提出的算法具有更好的检测效果。     

基于动态规整与改进变分自编码器的异常电池在线检测方法

针对电池生产成组过程中,传统异常检测方法对混入的容量及压差异常电池检测精度低及生产结束后离线异常检测方法效率低等问题,该文提出一种集合长短期记忆变分自编码器与动态时间规整评价的锂电池异常在线检测方法(VAE-LSTM-DTW),实现了异常电池的在线检测,避免了离线异常检测所造成的时间和能源的浪费。该方法首先将长短期记忆网络(LSTM)引入变分自编码器(VAE)模型,训练电池时序数据重构模型;其次,在电池异常检测的度量标准中引入动态时间规整值(DTW),并基于贝叶斯寻优获得最优检测阈值,对每个单体电池重构数据的动态规整值进行异常辨别。实验结果表明,相较该领域传统异常检测方法,VAE-LSTM-DTW模型性能优越,查准率和F1值都得到了较大的提升,具有较高的有效性和实用性。     

基于多维度无监督学习的异常用电检测方法

针对用户异常用电所造成的经济损失,通过对局部离群因子算法的理论分析,提出了“算法异常分析”与“经验法则分析”相结合的异常用电检测系统架构,重点介绍了社群演化异常、群体行为异常、个体功率异常和关联特征异常4个算法,并计算综合异常得分,最后从三相电压电流不平衡校对的角度进一步对“算法异常分析”的结果进行筛选。实验结果表明,与现有的主流异常用电检测方法相比,该方法能够更准确地从电力大数据中诊断出用户的异常用电行为,稽查准确率高达82%。     

基于主成分分析和深度自编码高斯混合模型的无监督异常数据检测方法研究

在异常数据检测中,由于数据量过大和数据特征维度过高,往往会导致数据标定困难、数据冗余、算法效率降低等。针对以上问题,将主成分分析（PCA）特征选择算法与深度自编码高斯混合模型（DAGMM）相结合,提出一种新的无监督异常数据检测方法 PCA-DAGMM。该方法首先利用PCA特征选择算法对数据进行预处理,去除对分类效果增益较小的冗余数据,降低运算成本;然后将特征选择后的数据输入到DAGMM模型中进行训练。基于kddcup99数据集和CIC-IDS-2017数据集进行实验,并与多种特征选择算法进行对比,实验结果表明,PCA-DAGMM方法可以有效优化分类器性能,提高分类器训练效率,适用于解决网络流量异常检测问题,F1指数在kddcup99数据集和CIC-IDS-2017数据集上比DAGMM模型分别提高了4.37%和1.06%,训练时间减少了14.43%和8%。     

基于掩蔽自监督语音特征提取的帕金森病检测方法

帕金森病是一种常见的慢性神经系统疾病,构音障碍是帕金森病的早期症状之一。基于语音进行帕金森病的辅助诊疗有助于更早发现病情和观测病情的发展。传统方法常通过对语音特征(如频率微扰、振幅微扰等)的参数计算来进行疾病评估,然而这些特征可能无法全面反映所有的病理现象,从而影响了检测和评估的准确率。为更好地提取帕金森病患者语音中的病理信息,提升检测和评估的准确率,该文提出一种基于掩蔽自监督语音特征提取的帕金森病检测方法。首先,从帕金森病患者的原始语音中提取Mel语谱图特征,得到患者富含病理特征的全局时序化表示;然后,对部分Mel语谱图特征进行掩蔽,并通过掩蔽自监督模型对掩蔽部分进行重构,从而学习到帕金森病患者语音特征的更高级表示。为解决帕金森病语音数据稀缺的问题,该文先在LibriSpeech公开数据集上进行掩蔽自监督模型的预训练,然后基于迁移学习的思想,利用帕金森病语音数据对预训练好的掩蔽自监督模型进行微调和加权求和,以提升该模型特征表示学习的性能。最终,使用随机森林和支持向量机分类器分别对提取好的语音特征进行分类,以实现帕金森病的检测。该文在MaxLittle公开数据集和课题组自采数据集上,采用10折交叉验证的方法验证了所提方法的有效性。结果表明,与传统的Mel语谱图特征检测方法和其他经典的自监督特征提取方法相比,所提方法在准确率、敏感度、特异度性能方面均有明显提升。     

基于流形学习的视频异常行为检测算法

随着日益突出的公共安全问题和迅速增长的视频数据流量,智能化的视频监控异常行为检测成为计算机视觉方向的研究热点。由于监督学习下的异常行为检测训练效果易受视频监控数据集分布不平衡影响,本文采用无监督学习方法得到具有时空间分辨率的异常行为检测效果。提出基于多流形谱聚类的异常行为检测方法,利用图像特征点列构建时序信息特征,利用流形学习构建空间信息特征,最终利用谱聚类方法无监督地得到视频异常行为检测结果。在UCSD数据集上进行实验验证,本文方法具有较好的检测性能和计算速度。     

基于3D卷积自编码器的视频异常行为检测

视频异常行为检测是目前计算机视觉领域的热点问题之一.然而,由于异常行为难以具体定义,使得基于监督学习的二类分类方法难以应用在该领域.本文提出了一种无监督的视频异常检测模型,称之为基于时空特征融合的3D自编码器模型(ST-3DCAE).模型采用PWCNet提取场景光流特征图,并与原视频帧融合作为基本单元,由多个基本单元组...     

基于自编码器的无线通信系统

本文针对无线通信系统与自编码器的相似性,提出将传统无线通信系统理解为端到端的自编码器任务,并将无线通信系统的发送端与接收端分别对应为自编码器的编码与译码模块。仿真结果表明,基于自编码器的无线通信系统比传统的无线通信系统具有更好的性能。     

基于自编码器的显微图像色彩恒常算法

针对显微图像领域色彩恒常(CC)数据集缺乏、CC算法跨数据集训练效果不佳的问题,通过相机采集和模拟生成两个步骤建立了显微CC数据集,并提出了一种基于自编码器的显微图像CC算法.该算法用改进的UNet结构自编码器进行半监督训练,同时引入一种新的复合损失函数优化网络参数,使恢复的图像色彩更准确.实验结果表明,相比传统自编码器,本算法训练的图像清晰度更高,在NUS-8 CC数据集、RECommended CC数据集和自建显微CC数据集中的角误差估计值更小.     

无源无监督迁移学习综述

迁移学习由于解决了领域之间的分布差异引起的领域迁移问题而引起了人们的关注。现有的迁移学习方法绝大多数需要访问源域数据,访问源域数据可能因为源域数据涉及隐私、数据量过大占据较大的存储空间以及计算成本等原因而带来难题。因此,很多研究开始关注无源无监督的方法,即从预先训练的源模型向不可访问的未标记目标领域执行迁移。首先介绍了无源无监督迁移学习的定义,然后简述了无监督迁移学习的研究现状,最后总结了部分方法在数据集上的表现,有利于进一步的研究。