基于多通道图卷积自编码器的图表示学习

针对基于图卷积的自编码器模型对原始图属性和拓扑信息的保留能力有限、无法学习结构和属性之间深度关联信息等问题,提出基于多通道图卷积自编码器的图表示学习模型。设计拓扑和属性信息保留能力实验,验证了基于图卷积的自编码器模型具备保留节点属性和拓扑结构信息的能力。构建特定信息卷积编码器和一致信息卷积编码器,提取图的属性空间特征、拓扑空间特征以及两者关联特征,生成属性嵌入、拓扑嵌入和一致性嵌入,同时建立与编码器对称的卷积解码器,还原编码器过程。使用重构损失、局部约束和一致性约束,优化各编码器生成的低维嵌入表示。最终将蕴含不同图信息的多种嵌入进行融合,生成各节点的嵌入表示。实验结果表明,该模型在BlogCatalog和Flickr数据集上节点分类的Micro-F1和Macro-F1明显高于基线模型,在Citeseer数据集上节点聚类的精度和归一化互信息相比于表现最优的基线模型提升了11.84%和34.03%。上述实验结果证明了该模型采用的多通道方式能够在低维嵌入中保留更丰富的图信息,提升图机器学习任务的性能表现。     

基于图自编码器的无监督多变量时间序列异常检测

针对多变量时间序列复杂的时间相关性和高维度使得异常检测性能较差的问题,以对抗训练框架为基础提出基于图自编码的无监督多变量时间序列异常检测模型.首先,将特征转换为嵌入向量来表示;其次,将划分好的时间序列结合嵌入向量转换为图结构数据;然后,用两个图自编码器模拟对抗训练重构数据样本;最后,根据测试数据在模型训练下的重构误差进行异常判定.将提出的方法与5种基线异常检测方法进行比较.实验结果表明,提出的模型在测试数据集获得了最高的F1分数,总体性能分F1分数比最新的异常检测模型USAD提高了28.4%.可见提出的模型有效提高异常检测性能.     

高维大数据分析的无监督异常检测方法

高维数据的无监督异常检测是机器学习的重要挑战之一。虽然先前基于单一深度自动编码器和密度估计的方法已经取得了显著的进展,但是其仅通过一个深度自编码器来生成低维表示,这表明没有足够的信息来执行后续的密度估计任务。为了解决上述问题,文中提出了一种混合自动编码器高斯混合模型(Mixed Auto-encoding Gaussian Mixture Model,MAGMM)。MAGMM使用混合自动编码器来代替单一深度自动编码器生成串联的低维表示,因此它可以保存来自输入样本的特定集群的关键信息。此外,其利用分配网络来约束混合自动编码器,这样每个样本都可以分配给一个占主导地位的自动编码器。利用上述机制,MAGMM避免了陷入局部最优,降低了重构误差,从而可以促进密度估计任务的完成,提高高维数据异常检测的准确性。实验结果表明,该方法优于DAGMM,并在标准F1分数上提高了29%。     

一种基于重构误差的交通轨迹异常检测方法

传感器技术的飞速发展催生了大量交通轨迹数据,轨迹异常检测在智慧交通、城市规划、道路监控等领域具有重要的应用价值。针对传统基于距离和有监督机器学习异常检测方法提取有效特征困难、容易出现过拟合、异常检测效果差等问题,提出了一种基于轨迹重构误差的无监督异常检测方法。该方法使用基于循环神经网络的自编码器对输入轨迹进行重构,通过最小化重构输出和原始输入之间的差异,使模型学习正常轨迹的运动特征。重构误差大于异常阈值的轨迹被判定为异常轨迹。为了避免人工标注异常,利用数据驱动的交通模拟方法,合成了包含不同异常类型的轨迹数据。基于交通轨迹标注数据的实验结果表明,该方法的异常检测性能在各项指标上显著优于传统基于距离的方法以及机器学习分类算法,验证了该无监督方法的有效性和实用性。     

基于DCE-LAE的电力负荷异常检测方法

针对传统的用电负荷数据异常检测方法精度低、提取时间特征困难、特征提取与检测过程分离的问题，提出一种基于深度卷积嵌入LSTM编码器(deep convolution embedded LSTM auto-encoder, DCE-LAE)的电力负荷数据异常检测方法。将长短期记忆网络融入自编码器架构，利用编码器的非线性特征提取能力和长短期记忆网络的时序特征记忆能力提高电力负荷的异常检测精度，将深度卷积层嵌入至该架构中提高感受野，提取更多时间序列特征；将卷积损失和重构损失相结合作为损失函数联合优化，防止卷积嵌入微调对重构空间的扭曲，进一步提高结果的可靠性。实例仿真通过与其它方法进行对比，验证了DCE-LAE的异常检测精度与时序重构能力均优于其它算法。     

基于低秩堆栈式语义自编码器的零样本学习

在图像分类领域,现有的深度学习等方法在训练时需要大量有标注的数据样本,且无法识别在训练阶段未出现的类别。零样本学习能有效缓解此类问题。本研究基于堆栈式自编码器和低秩嵌入,提出了一种新的零样本学习方法,即基于低秩嵌入的堆栈语义自编码器（low-rank stacked semantic auto-encoder,LSSAE）。该模型基于编码-解码机制,编码器学习到一个具有低秩结构的投影函数,用于将图像的视觉特征空间、语义描述空间以及标签进行连接;解码阶段重建原始视觉特征。并通过低秩嵌入,使得学习到的模型在预见未见类别时能共享已见类的语义信息,从而更好地进行分类。本研究在五个常见的数据集上进行实验,结果表明LSSAE的性能优于已有的零样本学习方法,是一种有效的零样本学习方法。     

基于混合方法的多维时间序列驾驶异常点检测

针对传统异常点检测模型难以准确分析汽车驾驶异常行为的情况,建立一种基于自动编码器与孤立森林算法的多维时间序列汽车驾驶异常点检测模型。利用滑动窗口计算原始多维时间序列范数、范数变化率及相关统计信息值提取数据特征,通过自动编码器重构特征数据,并结合孤立森林算法实现异常点检测。实验结果表明,与基于LOF、OCSVM、iForest和LSTM-AE的异常点检测模型相比,该模型的召回率和F1度量值可分别提升至6%和2.4%以上,综合性能更优。     

一种采用串行自编码器的时序数据异常检测方法

基于深度学习的时序数据异常检测模型大多采用循环神经网络或长短期记忆网络捕捉时序依赖性,并利用自编码器重构数据,进而实现时序数据的异常检测.虽然此类检测模型实现了较高的异常检测率,但它们的网络结构复杂,导致模型的计算效率较低.为提高模型的计算效率,提出一种基于串行自编码器的异常检测模型SAE-AD.该模型仅包含两个结构简单的自编码器(AE_1$和AE_2$),其所含参数较少,且训练目标较为简单,从而加快了模型的计算效率.通过将自编码器AE_1$和AE_2$串行拼接,即AE_1$的输出作为AE_2$的输入,可有效提高AE_2$的解码器对正常数据特征的解码能力,有助于提升模型的检测准确率.实验结果表明,相较于其他新近提出的异常检测模型,SAE-AD模型具有更高的精确率、召回率和$F_1$值.     

基于深度聚类的航空交通流识别与异常检测研究

针对传统的聚类算法无法捕获高维轨迹数据在低维空间中的隐含关系，且难以定义适当的相似性度量以同时考虑轨迹的局部和全局特征的问题，提出了一种基于深度神经网络的多变量轨迹深度聚类框架(MTDC)并将其用于航空交通流识别与异常检测。该框架主要包含一个非对称的自编码器和一个自定义的轨迹聚类层。自编码器由一维卷积神经网络和双向长短时记忆网络堆叠而成，用于学习原始输入在低维隐空间中的特征表示。轨迹聚类层则通过计算隐空间中样本的Q分布实现聚类。结合自编码器的重建损失和轨迹聚类Q分布定义了一个新的异常分数，用于检测异常轨迹。使用基于广播式自动相关监视(ADS-B)的真实轨迹数据进行实验，结果表明，所提框架能有效地进行航空交通流识别，并能检测出具有实际意义且可解释的异常轨迹。     

图嵌入和LSTM自动编码器结合的BGP异常检测

针对BGP异常数据的检测问题,依托互联网公开的真实BGP更新报文数据,重点结合网络的拓扑特征及时序变化特点,提出一种新的基于图嵌入特征和LSTM自动编码器的BGP异常检测方法.首先利用BGP数据中AS_PATH属性信息,构建基于时间序列的网络拓扑图的动态嵌入特征数据集,然后使用LSTM自动编码器模型对数据进行检测,发现...