基于外观和动作特征双预测模型的视频异常行为检测

为了在视频异常行为检测中更加充分地运用外观和动作信息,设计出了一种能同时捕捉外观和动作信息的孪生网络模型。该网络的两个分支采用相同的自编码器结构,其中的外观子网络以连续几帧RGB图作为输入来预测下一帧,而动作子网络则输入RGB帧差图来预测未来帧差图。此外,考虑到影响基于预测的方法的检测效果的原因之一,即正常样本的多样性以及自编码器网络强大的“生成”能力,即对部分异常样本也有很好的预测效果,因此在编码器与解码器之间加入一个学习并存储正常样本的“原型”特征的记忆增强模块,从而使异常样本能获得更大的预测误差。在Avenue、UCSD-ped2和ShanghaiTech三个公共的异常数据集上进行了广泛的实验。实验结果表明,相较于其他基于重建或预测的视频异常行为检测方法,所提方法取得了更优异的表现。具体来说,该方法在Avenue、UCSD-ped2和ShanghaiTech数据集上的平均曲线下面积（AUC）分别达到了88.2%、97.5%和73.0%。     

基于伪标签的无监督电力数据异常检测框架

电力系统容易受到各种异常用电行为的影响,异常检测可以提高电力系统的可靠性。针对现有异常检测模型存在阈值选择困难、精度低等问题,提出了一个基于伪标签的无监督异常检测框架PLAD。框架由伪标签提取模块PLE和基于重构误差的异常检测模块READ组成。PLE模块中提出了一种基于DBSCAN的自适应伪标签提取算法,用于提取电力数据的伪标签。READ模块采用双LSTM自编码器提取多级时序特征,并得到重构误差,后利用伪标签训练逻辑回归分类器,对重构误差进行分类,进行异常判定。通过某地区的电网运行数据验证了所提方法的有效性,实验结果表明,所提方法优于其他无监督异常检测方法。     

基于Transformer GAN架构的多变量时间序列异常检测

基于过程中实时采集的多变量时序关联数据进行异常检测是预防工业过程事故、保障系统安全的关键环节之一.然而,工业多变量时间序列异常检测仍面临如下两大难题:(1)时序数据变量间复杂的非线性关联特性缺乏有效的表达方法;(2)正常/异常分布极度不均衡的时间序列间复杂的相关性有待深入挖掘.本文提出一种新的基于多变量时间序列的无监督异常检测方法 ——基于Transformer GAN的多变量时间序列异常检测方法 (TGAN-MTSAD). TGAN-MTSAD采用Transformer网络作为生成对抗网络的基本模型,引入了图注意力层以自动学习时序多元变量间的复杂依赖关系,还应用了patch技巧使模型能够有效捕捉时间窗口内的异常细节信息,并提出了基于重构误差与鉴别误差相结合的异常分数计算方法.采用3个真实世界的数据集对所提方法进行了大量的性能验证与对比实验分析.结果表明, TGAN-MTSAD可以有效检测过程中的时序异常,在大多数情况下优于基线方法,并且具有良好的可解释性,可用于复杂工业异常诊断.     

监控视频异常行为检测的概率记忆自编码网络

异常行为检测是智能监控系统中重要的功能之一, 在保障社会治安等方面发挥着积极的作用. 为提高监控视频中异常行为的检测率, 从学习正常行为分布的角度出发, 设计基于概率记忆模型的半监督异常行为检测网络, 解决正常行为数据与异常行为数据极度不均衡的问题. 该网络以自编码网络为主干网络, 利用预测的未来帧与真实帧之间的差距来衡量异常程度. 在主干网络提取时空特征时, 使用因果三维卷积和时间维度共享全连接层来避免未来信息的泄露, 保证信息的时序性. 在辅助模块方面, 从概率熵和正常行为数据模式多样性的角度, 设计概率模型和记忆模块提高主干网络视频帧重建质量. 概率模型利用自回归过程拟合输入数据分布, 促使模型收敛于正常分布的低熵状态; 记忆模块存储历史数据中的正常行为的原型特征, 实现多模式数据的共存, 同时避免主干网络的过度参与而造成对异常帧的重建. 最后, 利用公开数据集进行消融实验和与经典算法的对比实验, 以验证所提算法的有效性.     

基于样本关联感知的无监督深度异常检测模型

异常检测的目标是识别正常模式中的异常模式.如何充分利用数据的各种特征信息来识别异常是当前异常检测的研究热点之一.许多数据挖掘及机器学习等方面的智能算法都被用于异常检测规则训练以提高其检测性能.目前已有模型存在着对复杂数据处理困难、没有充分利用数据样本间关联特征等问题,从而造成异常检测效果不甚理想.基于此,本文提出一种基于样本关联感知的深度学习模型并用于异常检测.模型通过对样本的原始特征和样本间的关联关系进行深入分析,利用无向图结构来提取样本间的关联特征,然后基于由特征编码器和图编码器构成的双路自编码器实现对样本的原始特征和关联特征的融合,产生样本在低维特征空间中高质量数据嵌入,然后进行解码重构并计算重构误差和重构特征,最后设计基于高斯混合模型的估计网络,基于重构特征和高质量的数据嵌入估计样本的概率密度,通过给定阈值来进行异常检测.实验结果表明,本模型的异常检测各项性能指标均比其他基于机器学习和深度学习的异常检测方法提升了2％左右,参数、消融和噪声实验结果也较其他算法更稳定,可视化实验也能够突出本模型在数据特征提取和充分利用等方面的优势.     

基于图自编码器的无监督多变量时间序列异常检测

针对多变量时间序列复杂的时间相关性和高维度使得异常检测性能较差的问题,以对抗训练框架为基础提出基于图自编码的无监督多变量时间序列异常检测模型.首先,将特征转换为嵌入向量来表示;其次,将划分好的时间序列结合嵌入向量转换为图结构数据;然后,用两个图自编码器模拟对抗训练重构数据样本;最后,根据测试数据在模型训练下的重构误差进行异常判定.将提出的方法与5种基线异常检测方法进行比较.实验结果表明,提出的模型在测试数据集获得了最高的F1分数,总体性能分F1分数比最新的异常检测模型USAD提高了28.4%.可见提出的模型有效提高异常检测性能.     

基于标签传递的异常检测算法研究

异常检测旨在检测出观测数据中的非正常值,被广泛应用于反信用卡欺诈、网络入侵检测、医疗分析以及气象预报等领域。在异常检测中,正常数据通常具有异常数据所不具备的某种内蕴结构。因此,如何有效地利用正常数据与异常数据在数据结构上的差异性将有助于提高异常检测性能。为此,本文提出了一种新颖的基于标签传递的异常检测算法。该算法通过图模型刻画正常数据所具有的内蕴结构,并通过多重标签传递来构建未标记正例样本与待测试样本的标签置信度的差异。最后,基于正例样本的标签置信度的统计特性分析,实现对测试样本的异常性判决。在人工合成及真实数据集上的实验验证了本文算法的有效性。     

基于逆向习得推理的网络异常行为检测模型

针对网络异常行为检测中因数据不平衡而导致召回率低的问题，提出一种基于逆向习得推理（ALI）的网络异常行为检测模型。首先，去除数据集中用离散数据表示的特征项，并对处理后的数据集进行归一化以提高模型的收敛速度与精度；然后，提出改进的ALI模型，通过ALI训练算法用仅由正样本所构成的数据对其进行训练，并利用已训练完成的改进ALI模型处理检测数据以生成处理后的检测数据集；最后，依据异常检测函数计算检测数据与处理后的检测数据之间的距离来判断数据是否异常。与单类支持向量机（OC-SVM）、深层结构能量模型（DSEBM）、深度自编码高斯混合模型（DAGMM）和生成对抗网络异常检测模型（AnoGAN）的对比实验结果表明，所提模型的准确率提升了5.8~17.4个百分点，召回率提升了1.4~31.4个百分点，F₁值提升了14.18~19.7个百分点。可知所提出的基于逆向习得推理的网络异常行为检测模型在数据不平衡时仍具有较高的召回率和检测精度。     

基于自联想核回归的带离群值化工过程故障检测EI北大核心CSCD

基于数据驱动的故障检测模型通常要求训练数据必须是正常操作条件下的测量值.然而在实际工业生产过程中,即使在正常工况下,数据集中也难以避免存在离群值.此时若仍采用传统的基于多元统计分析的方法,其监测模型的控制限会受到严重影响,造成故障漏报.因此,为了确保当训练数据包含离群值时,监测模型仍然呈现较好的故障检测效果,本文提出了一种基于自联想核回归的故障检测方法.首先基于最小化β散度的鲁棒预白化算法对训练集进行白化计算,消除变量之间相关性对样本相似度度量的影响.然后通过自联想核回归算法重构正常工况下的验证数据,根据重构误差建立模型监测指标.为了消除离群值对故障样本重构的影响,构造截断函数来避免离群样本参与相似故障数据的重构,并对所有参与构建Q统计量的残差变量基于指数加权滑动平均方法自适应加权,得到新的监测统计量.将该方法运用于田纳西–伊斯曼过程并与其他方法进行比较,验证了本文所提故障检测算法的有效性.     

一种模糊多粒度用电行为异常检测方法

异常用电检测旨在识别和定位电力系统中与常规用电行为显著偏离的用户。现有基于机器学习、深度学习的有监督的检测方法通常需要大量人工标记数据,且对于离散型数据需要进行类型转换,因而容易导致重要信息的丢失。模糊粗糙集理论提供了一种处理离散数据的有效工具,并能直接应用于包含连续数据和离散数据在内的异质信息的知识分类。本文在模糊粗糙集理论的基础上提出了一个基于多粒度模糊相对差的无监督异常检测方法,并将其应用于智能电网的异常用电检测。具体而言,首先利用模糊近似空间的信息熵来度量属性在知识分类中的重要性,然后根据属性集重要性构造模糊信息粒序列,接着在此序列上定义样本的模糊相对差,最后构建基于多粒度模糊相对差的异常检测方法,并在公开的数据集上进行验证。实验结果表明了所提检测算法的有效性和优越性。实验相关的代码和数据已在网络上公开（http://www.github.com/chenbaiyang/FRAD）。     

结合双金字塔特征融合与级联定位的车牌检测

为了解决复杂环境中不同因素干扰车牌检测精确度的问题,提出了一种基于双金字塔特征融合的复杂环境下车牌检测算法。通过采用Mish激活函数的残差网络（ResNet101-M）对输入图像进行初级特征提取;在传统特征金字塔网络（feature pyramid network,FPN）的基础上,提出了一种改进的双金字塔特征融合网络（siamese feature pyramid network,SFPN）。被提取的初级特征被送入该网络进行多层特征融合。融合后的特征被送入基于形状先验的锚点设置网络来确定感兴趣区域。将所生成的感兴趣区域送入级联定位网络从而得到准确的车牌检测结果。实验结果表明,该算法在AOLP与CCPD车牌数据集上均能够有效提升检测性能。     

基于门控循环单元的非均衡数据驱动异常用电检测方法

异常用电检测能够及时发现异常用电行为,在减少能源浪费和经济损失的同时能够维持安全、稳定的电网运行环境。智能电表的普及使得用电数据获取十分容易,为数据驱动的异常用电检测方法提供了充足的数据支持。然而,在实际应用过程中,异常数据较少导致的数据非均衡问题严重影响了模型的训练效果。因此,针对上述问题提出了一种针对非均衡数据的门控循环单元异常用电检测方法。该方法利用边界合成少数类过采样技术实现了对少数类数据的有效扩充。为了更好的捕捉用电数据的时序特征,采用了门控循环单元实现对用电数据的分类。为了验证该方法的有效性,基于非均衡数据集进行了对比实验。实验结果表明,该方法能够更好的数据扩充效果以及更准确的异常用电检测效果。     

改进孪生网络的脑电信号处理方法

针对运动想象脑机接口系统中分类准确率低的问题,提出一种改进孪生网络的脑电信号分类方法,把原孪生网络中的两个子网络扩充成3个子网络,并设计了新的学习样本采集方法和距离函数;脑电信号经过小波变换及经验模态分解,利用自相关系数筛选得到预处理后的小波分量,然后随机分割成训练集和测试集,从训练集中按照新的学习样本采集方法获得学习样本集,将其输入3个权重共享的子网络进行训练,使用新的距离函数进行相似度的对比,最后计算测试样本特征与训练集中标签为1和标签为0样本特征相似度,选择最高相似度样本标签作为该待测样本的类别;通过对国际公开BCI Competition Ⅱ Data set Ⅲ和The largest SCP data of Motor-Imagery数据集进行仿真,此算法分类准确率高达94.29%;与现有性能较高的算法进行对比,其有效的提高了分类准确率,能更好地进行脑电信号分类识别。     

特征融合与训练加速的高效目标跟踪

基于孪生网络的目标跟踪,存在特征信息欠丰富,跟踪效率有待提高,大型数据集上训练时间长等问题。针对上述问题,提出特征融合与训练加速的高效目标跟踪。增加主干网络参考特征层级,减小下采样,融合多层级参考特征图,提取目标更深度、丰富的语义信息。深度互相关操作得到候选窗口响应（Response of Candidate Windows,RoWs）,在其中构建区域建议网络（Region Proposal Network,RPN）,通过权衡正负锚点的数量比,使孪生网络性能更加高效、稳定。大型数据集训练孪生网络时,使用均匀滑动漂移采样,代替随机漂移采样算法,在抑制中心偏置现象的同时,显著加快了孪生网络的训练速度。跟踪基准VOT2018上的评估实验结果表明,与所有参考的主流目标跟踪算法相比,所提算法具有最佳的跟踪性能。     

基于异方差高斯过程的时间序列数据离群点检测

时间序列数据在测量过程中通常受到事物内在可变性以及外界干扰等因素的影响，针对各个时间点上数据受影响程度不同的情况，提出一种基于高斯过程预估模型的时间序列数据离群点检测方法。将监测数据分解为标准值和偏差项两个部分，除了对理想情况下的标准值建模，还再次使用高斯过程实现对异方差偏差项的有效描述，通过变分推断解决引入偏差项后的后验概率求解问题，将后验分布中设定的容差区间用于离群点判定。使用雅虎公司公开的网络流量时序数据进行验证，模型输出的容差区间在不同时间点上的变化趋势与标注的正常数据偏差情况相符，并在对比实验中异常检测性能指标F1-score优于自回归积分滑动平均模型、一类支持向量机以及基于密度并伴随噪声的空间聚类算法。实验结果表明，该模型能够有效描述各个时间点上正常数据的分布情况，取得误报率和召回率两方面的综合权衡，而且可以避免模型参数设置不当导致的性能问题。     

Visual Smoke Detection Based on Ensemble Deep CNNs

Smoke usually refers to a visible aerosol produced by fuel combustion, sometimes commingled with carbon and sulfur particles because of incomplete burning. The long-term accumulation of smoke aerosols is an important factor in the formation of haze, which is an environmental concern in many countries. Developing methods of intelligent smoke detection in the air would be greatly beneficial for such applications as industrial safety monitoring and prevention of air pollution for the purpose of wholly replacing manual processes. In this paper, we concentrate on resolving this difficulty. Unlike existing deep learning frameworks which lack generalization ability because they were developed for specific data instances, our proposed model aggregates simple deep convolutional neural networks but attains excellent performance. In order to capture the different aspects of smoke, we define a set of feature maps that are fed to a set of subnetworks. Each subnetwork is independently trained to deliver good detection performance. A final output is obtained by selectively aggregating the subnetwork responses via majority voting. In the experiment we conducted on two newly established noisy smoke image datasets corrupted by compression, our proposed model achieves a very high consistency beyond 97% on average between detection results and human judgements, outperforming other state-of-the-art smoke detection algorithms based on deep learning.     

结合孪生网络和像素配对的高光谱图像异常检测

目的 高光谱遥感中,通常利用像素的光谱特征来区分背景地物和异常目标,即通过二者之间的光谱差异来寻找图像中的异常像元。但传统的异常检测算法并未有效挖掘光谱的深层特征,高光谱图像中丰富的光谱信息没有被充分利用。针对这一问题,本文提出结合孪生神经网络和像素配对策略的高光谱图像异常检测方法,利用深度学习技术提取高光谱图像的深层非线性特征,提高异常检测精度。方法 采用像素配对的思想构建训练样本,与原始数据集相比,配对得到的新数据集数量呈指数增长,从而满足深度网络对数据集数量的需求。搭建含有特征提取模块和特征处理模块的孪生网络模型,其中,特征处理模块中的卷积层可以专注于提取像素对之间的差异特征,随后利用新的训练像素对数据集进行训练,并将训练好的分类模型固定参数,迁移至检测过程。用滑动双窗口策略对测试集进行配对处理,将测试像素对数据集送入网络模型,得到每个像素相较于周围背景像素的差异性分数,从而识别测试场景中的异常地物。结果 在异常检测的实验结果中,本文提出的孪生网络模型在San Diego数据集的两幅场景和ABU-Airport数据集的一幅场景上,得到的AUC （area under the curve）值分别为0.993 51、0.981 21和0.984 38,在3个测试集上的表现较传统方法和基于卷积神经网络的异常检测算法具有明显优势。结论 本文方法可以提取输入像素对的深层光谱特征,并根据其特征的差异性,让网络学习到二者的区分度,从而更好地赋予待测像素相对于周围背景的异常分数。本文方法相对于卷积神经网络的异常检测方法可以有效地降低虚警,与传统方法相比能够更加明显地突出异常目标,提高了检测率,同时也具有较强的鲁棒性。     

基于A-DLSTM夹层网络结构的电能消耗预测方法

全球人口的快速增长和技术进步极大地提高了世界的总发电量,电能消耗预测对于电力系统调度和发电量管理发挥着重要的作用,为了提高电能消耗的预测精度,针对能耗数据的复杂时序特性,文中提出了一种将注意力机制(Attention)放置于双层长短期记忆人工神经网络(Double layer Long Short-Term Memory,DLSTM)中的新颖夹层结构,即A-DLSTM。该网络结构利用夹层中的注意力机制自适应地关注单个时间单元中不同的特征量,通过双层LSTM网络对序列中的时间信息进行抓取,以对序列数据进行预测。文中的实验数据为UCI机器学习数据集上某家庭近5年的用电量,采用网格搜索法进行调参,实验对比了A-DLSTM与现有的模型在能耗数据上的预测性能,文中的网络结构在均方误差、均方根误差、平均绝对误差、平均绝对百分比误差上均达到了最优,且通过热力图对注意力层进行了分析,确定了对用电量预测影响最大的因素。     

UMTS-Mixer: 基于时间相关性和通道相关性的时间序列异常检测

多变量时间序列的异常检测是一个具有挑战性的问题, 要求模型从复杂的时间动态中学习信息表示, 并推导出一个可区分的标准, 该标准能从大量正常时间点识别出少量的异常点. 但在时间序列分析中仍存在多变量时间序列复杂的时间相关性和高维度使得异常检测性能较差的问题, 针对上述问题, 本文提出了一种基于MLP (multi-layer perceptron)架构的模型(UMTS-Mixer), 由于MLP的线性结构对顺序敏感, 将其用来捕获时间相关性和跨通道相关性. 大量实验表明UMTS-Mixer能够有效地检测时间序列异常, 并在4个基准数据集上的表现更好, 同时, 在MSL和PSM两个数据集上取得了最高的F1, 分别为91.35%, 92.93%.