基于融合学习的无监督多维时间序列异常检测

随着多云时代的到来，云际智能运维能够提前检测处理云平台的故障，从而确保其高可用性.由于云系统的复杂性，运维数据在数据局部性和数据全局性上呈现出多样的时间依赖和维度间依赖，这给多维时间序列异常检测带来很大的挑战.然而，现有的多维时间序列异常检测方法大多是从正常时序数据中学习到特征表示并基于重构误差或预测误差检测异常，这些方法无法同时捕获多维时间序列在局部性和全局性上的信息依赖，从而导致异常检测效果差.针对上述问题，提出了一种基于融合学习的无监督多维时间序列异常检测方法，同时对多维时间序列的数据局部特征和数据全局特征进行建模，得到更加丰富的时序重构信息，并基于重构误差检测异常.具体地，通过在时域卷积网络中引入自注意力机制使得模型在构建局部关联性的同时更加关注数据全局特征，并在时域卷积模块和自注意力模块间加入信息共享机制实现信息融合，从而能够更好地对多维时序的正常模式进行重构.在多个多维时间序列真实数据集上的实验结果表明，相较于之前的多维时间序列异常检测，提出的方法在F1分数上提升了高达0.0882.     

结合注意力和双向LSTM的开放域问句分类研究

针对现有端对端模型没有对问句局部信息进行显式建模以及模型可解释性差等方面的不足，本文提出面向开放域的基于注意力机制和双向LSTM的问句分类方法。该法一方面使用注意力机制捕捉问句的局部信息；另一方面将注意力机制视为一种模型内置的自解释机制，将其与双向LSTM结合完成对问句局部和全局信息的建模。在TREC、MSQC、Baidu-Zhidao、Baidu-Search四个公开的开放域问句分类数据集上的实验结果表明，本文提出的方法在分类性上优于现有的基准方法，而且该方法的注意力机制能捕捉到问句分类的关键局部信息，提高模型的可解释性，为下游任务提供除类别以外的关键信息。     

基于双重注意力机制改进的DA-LSTM时间序列预测模型

为了提高时间序列预测的精确度和收敛速度，提出一种基于双重注意力机制改进的DA-LSTM时序预测模型。通过引入注意力机制重构LSTMcell结构，减少模型参数提高收敛速度；自注意力层对各时间步的输出计算自注意力权重，充分利用细胞记忆信息，提高预测精度。在Beijing PM_2.5和SML2010数据集上，所提出的模型相较于LSTM在均方根误差(RMSE)上分别降低4%和25.4%,相比其他基准方法也有明显提升。     

结合多尺度注意力机制和双向门控循环网络的视频摘要模型

任务中全局注意力在长距离视频序列上注意力值分布的方差较大,生成关键帧的重要性分数偏差较大,且时间序列节点边界值缺乏长程依赖导致的片段语义连贯性较差等问题,通过改进注意力模块,采用分段局部自注意力和全局自注意力机制相结合来获取局部和全局视频序列关键特征,降低注意力值的方差。同时通过并行地引入双向门控循环网络（bidirectional recurrent neural network, BiGRU）,二者的输出分别输入到改进的分类回归模块后再将结果进行加性融合,最后利用非极大值抑制（non-maximum suppression,NMS）和核时序分割方法（kernel temporal segmentation, KTS）筛选片段并分割为高质量代表性镜头,通过背包组合优化算法生成最终摘要,从而提出一种结合多尺度注意力机制和双向门控循环网络的视频摘要模型(local and global attentions combine with the BiGRU, LG-RU)。该模型在TvSum和SumMe的标准和增强数据集上进行了对比试验,结果表明该模型取得了更高的F-score,证实了该视频...     

基于自注意力机制的多模态语义轨迹预测

随着社交媒体的快速发展，多模态语义轨迹的预测成为新的挑战。轨迹点间的依赖关系在预测中起到重要作用，同时也存在着以下挑战：轨迹信息中包含多种模态信息(时间、兴趣点和活动文本等)，存在时间、空间和活动意图等多种依赖，这些依赖关系很复杂，现有方法很难量化这些复杂依赖关系。为了解决以上问题，提出一种基于自注意力机制的多模态语义轨迹预测模型SAMSTP。SAMSTP先对多模态特征进行联合嵌入，再设计自注意力机制结合Position Encoding计算轨迹点之间的特征相似度，自动学习并量化复杂依赖权重，同时解决轨迹的长期依赖关系。最后，采用LSTM网络处理轨迹时序关系，并设计模式规范化机制解决依赖关系失真问题，加快模型收敛速度。在真实数据集上的实验结果表明，SAMSTP是有效的，并且优于现有最新方法。     

融合序列局部信息的日期感知序列推荐算法

基于自注意力机制的序列推荐算法利用用户的交互序列建模用户的动态偏好,预测用户未来的行为。但是,将交互序列直接输入自注意力层将会限制算法对序列局部关联信息的有效利用。此外,现有的大部分推荐算法利用用户最近的行为表征与目标项目的点积计算项目得分,这将削弱先前交互项目对推荐结果的影响。提出融合序列局部信息的日期感知序列推荐算法,使用多个垂直过滤器融合各交互项目在交互序列中的多种局部关联信息,同时使用交叉注意力机制捕获所有历史交互项目和目标项目的关系,并且抛弃了传统的位置嵌入方法,改用交互发生的日期作为绝对时间嵌入。在多个公开数据集上的实验表明,该算法在不同的评估指标上较基线算法均有一定程度的提升。     

基于级联双通道分阶段融合的双模态情感识别

为充分提取文本和语音双模态深层情感特征，解决模态间有效交互融合的问题，提高情感识别准确率，提出了基于级联双通道分阶段融合（cascade two channel and phased fusion,CTC-PF）的双模态情感识别模型。设计级联顺序注意力编码器（cascaded sequential attention-Encoder,CSA-Encoder）对长距离语音情感序列信息进行并行化计算，提取深层语音情感特征；提出情感领域级联编码器（affective field cascade-Encoder,AFC-Encoder），提高模型的全局和局部文本理解能力，解决文本关键情感特征稀疏的问题。两个级联通道完成语音和文本信息的特征提取之后，利用协同注意力机制对两者的重要情感特征进行交互融合，降低对齐操作成本，然后采用哈达玛点积对其进行二次融合，捕获差异性特征，分阶段融合实现不同时间步长模态序列间的信息交互，解决双模态情感信息交互不足的问题。模型在IEMOCAP数据集上进行分类实验，结果表明，情感识别准确率可达79.4%,F1值可达79.0%，相比现有主流方法有明显提升，证明了该模型在语...     

基于混合网络模型的多维时间序列预测

为捕捉时间序列中潜在的特征依赖关系并实现高维时序数据的快速模糊预测,构建基于时间卷积网络（TCN）与自注意力机制的两种混合网络模型：TSANet和TSANet-MF。TSANet模型通过全局和局部两个并行卷积分量结构提取特征后,利用自注意力机制增强特征点关联程度,并结合并行的TCN增大卷积的感受野范围,最大程度地捕捉多维时序数据的周期性特征。TSANet-MF模型将TSANet作为矩阵分解算法的正则化项,使高维数据转化为具有更多时序特征的低维数据,减少计算复杂度,实现高维数据的快速模糊预测。在4种不同领域的时间序列数据集上的实验结果表明,TSANet模型在3种数据集上的预测性能均优于基准模型,尤其在高维Traffic数据集上相对平方根误差降低了19.52%~56.37%,TSANet-MF模型在Electricity和Traffic高维数据集上的训练时间相比于基准模型明显减少。上述实验结果验证了两种混合网络模型均具有较好的多维时间序列预测性能。     

基于MLUM-Net的高分遥感影像土地利用多分类方法

针对高分辨率遥感影像土地利用多分类结果中地块结构不完整、边界质量差的问题，提出了基于MLUM-Net模型的遥感影像土地利用多分类方法。该方法利用多尺度空洞卷积和通道注意力机制构造MDSPA编码器，提高了网络多尺度特征提取能力与地块位置定位的准确性，并通过空间注意力机制自适应增强了多尺度特征表达；为消除上采样语义损失和减少分类结果噪声，设计了混合池化上采样优化模块，用于优化分类结果并消除网络分类误差；根据土地利用多分类数据集类别占比不均衡的特点和地块结构的相似性指数设计混合损失函数，消除数据类别占比产生的影响，提高地块结构完整性和精细化分类边界。在多个数据集上进行了实验验证，总体精度和kappa指标均有明显提高，其分类结果结构完整且边缘划分准确，在土地利用多分类领域具有较好的实用价值。     

一种基于注意力机制的短临降雨预报方法

针对现有气象业务中短临降雨预报不精确的问题，提出一种基于注意力机制的短临降雨预报方法。计算标准化降水指数后对因子作归一化处理；使用随机森林算法筛选出与降雨密切相关的气象因子；设计带有注意力机制的长短期记忆网络模型，有效解决长时间降雨序列信息丢失的问题，强化对关键信息的提取能力；对注意力权重可视化，提高模型透明度。在全国92个站点的实验结果验证了该方法有较好的泛化能力，在预测短临强降雨情况下比现有方法准确率更高。     

融合注意力机制与并行混合网络的DGA域名检测

基于统计特征的DGA域名检测方法依赖复杂的特征工程,而现有端到端的深度学习方法在DGA域名家族的多分类任务中性能表现不佳。针对上述问题,提出一种融合注意力机制与并行混合网络的DGA域名检测方法。首先,引入深层金字塔卷积神经网络,提取域名深层语义信息,并使用通道注意力块SENet进行改进构建DPCNN-SE,自适应学习通道间关系,抑制无用特征的传递;同时,将自注意力机制与双向长短时记忆网络结合构建Bi LSTM-SA网络,捕获域名数据中最具代表性的全局时序特征;最后,融合2个网络提取的特征,输入softmax层输出分类结果。实验结果表明,该方法在域名家族的多分类任务中相比CNN、LSTM的单一模型,F1值分别提高了10.30个百分点、10.18个百分点;相较于现有的混合网络方法 Bilbo和Bi GRU-MCNN,F1值分别提高了5.97个百分点、4.87个百分点,并且具有更低的计算复杂度。     

无参注意力结合自监督改善音频分类方法EI北大核心CSCD

基于transformer端到端音频分类方法在许多场景下证明可以达到优于二维卷积的效果.针对目前常用的transformer音频分类方法只关注不同时序间的特征重要性,而对同时序间的特征重要程度刻画程度不足的问题,提出一种无参注意力结合自监督特征构建的方法改善音频分类效果.通过在同时序特征中构造无参多局部极值注意力机制,拟合特征多局部极值分布,刻画同时序间的特征重要性;通过对输入的音频频谱图在时域和频域上随机掩码,加入自监督信息,有效地学习音频频谱细节及分类信息.采用audio set数据集,esc50数据集以及Speech Command数据集进行对比实验,实验结果表明,该算法比基准方法在识别准确率指标上提升了0.46%~1.20%.     

基于1D-CNN-LSTM注意力网络的抽油机井故障诊断

针对传统基于示功图的抽油机井故障诊断方法存在特征提取复杂、模型参数量大、诊断效率低的问题，提出一种基于1D-CNN-LSTM注意力网络的故障诊断方法。将示功图转化为载荷位移序列作为网络输入，使用一维卷积神经网络（1D-CNN）在提取序列局部特征的同时减小序列长度；考虑到序列的时序特性，进一步使用长短时记忆网络（LSTM）提取序列的时序特征；为突出关键特征影响，引入Attention机制，对故障类型相关的时序特征赋予更高的注意力权重；最后将加权特征输入全连接层，利用Softmax分类器实现故障诊断。实验结果表明，所提方法的平均准确率、精确率、召回率和F1值分别达到99.13%、99.35%、99.17%和99.25%，模型大小仅为98 kB。相比基于特征工程的方法具有更高的诊断精度和泛化能力，相比基于二维卷积神经网络（2D-CNN）模型的诊断方法，显著减少了模型参数量和训练时间，提高了故障诊断效率。     

基于自适应人体拓扑结构引导的步态识别

不同于基于外形的步态识别方法, 基于关键点的步态识别方法采取人体关键点作为模型的输入, 能够有效避免数据集带来的背景噪声干扰; 其次, 现有的基于关键点的步态识别方法忽略了人体结构先验知识的利用, 且更倾向于提取局部特征, 从而忽略了全局上的关联性. 本文提出了一个基于关键点的步态识别框架GaitBody, 能够从步态关键点序列中提取更有分辨性的特征. 首先, 我们设计了带有较大卷积核的多尺度卷积模块来提取多粒度的时序特征; 其次, 我们利用自注意力机制来提取空间特征, 并在此基础上引入了人体结构拓扑信息来进一步利用人体结构的先验知识; 最后, 为了更好使用时序信息, 我们生成最有代表性的时序特征, 并将其引入到自注意模块来融合时序和空间特征. 在CASIA-B和OUMVLP-Pose数据集上的实验结果表明, 我们的方法在基于关键点的步态识别方法上取得了最优结果, 消融实验也证明了各个模块的有效性.     

基于数据块的多变量时间序列相似性度量

时间序列数据挖掘是数据挖掘领域的热点之一。相似性度量是时序挖掘领域的基础问题,直接决定了时序数据分类和聚类的效果。针对现有经典的时序数据相似性度量方法共同主成分分析(CPCA)和二维奇异值分解(2DSVD)中存在无法保存时序数据集合中蕴含的某些重要局部特征的问题,提出了基于数据分块方式的CPCA方法和2DSVD方法。该算法首先对原始多变量时间序列数据进行分块处理,然后对分块得到的子矩阵采用CPCA、2DSVD进行特征提取,从而得到代替原始模式的低维新模式,最后在低维空间中利用最小距离法构建分类器对多变量时间序列进行分类。EEG数据分类实验证明了所提方法的有效性。     

基于自注意力机制的点云分类分割

3D点云由于其无序性以及缺少拓扑信息使得点云的分类与分割仍具有挑战性.针对上述问题,我们设计了一种基于自注意力机制的3D点云分类算法,可学习点云的特征信息,用于目标分类与分割.首先,设计适用于点云的自注意力模块,用于点云的特征提取.通过构建领域图来加强输入嵌入,使用自注意力机制进行局部特征的提取与聚合.最后,通过多层感知机以及解码器-编码器的方式将局部特征进行结合,实现3D点云的分类与分割.该方法考虑了输入嵌入时单个点在点云中的局部语境信息,构建局部长距离下的网络结构,最终得到的结果更具区分度.在ShapeNetPart、RoofN3D等数据集上的实验证实所提方法的分类与分割性能较优.     

基于多尺度卷积和注意力机制的LSTM时间序列分类

时间序列的多尺度特征包含丰富的类别信息,且这些信息对分类具有不同的重要程度,然而现有的单变量时间序列分类模型通常以固定大小的卷积核提取序列特征,导致不能有效地获取并聚焦重要的多尺度特征。针对上述问题,提出一种基于多尺度卷积和注意力机制（MCA）的长短时记忆（LSTM）模型（MCA-LSTM）,它能够关注并融合重要的多尺度特征,从而实现更准确的分类。其中,LSTM使用记忆细胞和门机制控制序列信息的传递,并充分提取时间序列的相关性信息;多尺度卷积模块（MCM）使用具有不同卷积核的卷积神经网络（CNN）提取序列的多尺度特征;注意力模块（AM）融合通道信息获取特征的重要性并分配注意力权重,从而使网络关注重要的时间序列特征。在UCR档案的65个单变量时间序列数据集上的实验结果表明,对比当前最先进的基于深度学习的时间序列分类模型：USRL-FordA（Unsupervised Scalable Representation Learning-FordA）、USRL-Combined （1-NN） （Unsupervised Scalable Representation Learning-Combined （1-Nearest Neighbor）） OS-CNN（Omni-Scale Convolutional Neural Network）、Inception-Time和RTFN（Robust Temporal Feature Network for time series classification）,MCA-LSTM在平均错误率（ME）上分别降低了7.48、9.92、2.43、2.09和0.82个百分点,并取得了最高的算术平均排名（AMR）和几何平均排名（GMR）,分别为2.14和3.23,这些充分体现了MCA-LSTM模型在单变量时间序列分类中的有效性。     

基于混合分布注意力机制与混合神经网络的语音情绪识别方法

针对现有语音情绪识别中存在无关特征多和准确率较差的问题,提出一种基于混合分布注意力机制与混合神经网络的语音情绪识别方法。该方法在2个通道内,分别使用卷积神经网络和双向长短时记忆网络进行语音的空间特征和时序特征提取,然后将2个网络的输出同时作为多头注意力机制的输入矩阵。同时,考虑到现有多头注意力机制存在的低秩分布问题,在注意力机制计算方式上进行改进,将低秩分布与2个神经网络的输出特征的相似性做混合分布叠加,再经过归一化操作后将所有子空间结果进行拼接,最后经过全连接层进行分类输出。实验结果表明,基于混合分布注意力机制与混合神经网络的语音情绪识别方法比现有其他方法的准确率更高,验证了所提方法的有效性。     

基于自适应注意力的任意形状场景文本检测

大量基于卷积神经网络的场景文本检测方法对于密集的长文本容易检测不全，且泛化能力较差。针对这些问题，提出一种面向自底向上的场景文本检测方法。使用自适应通道注意力机制(ACA),通过局部跨通道交互获得更具代表性的文本特征，提高深度卷积神经网络的性能；利用特征增强金字塔(FPEM)融合低层和高层信息进一步增强不同尺度的特征；为解决长文本尺度变化问题，提出一种加权感知损失(WAL),通过调整不同大小的文本实例的权重来增强鲁棒性。实验在CTW1500及MSRA-TD500标准数据集上验证了该方法的优越性。     

基于社交关系和时序信息的团购推荐方法

针对目前团购推荐方法较少结合单个用户与群组用户，并且对时间间隔、社交关系等上下文相关信息的利用不充分的问题，提出了一种基于社交关系和时序信息的团购推荐方法。对单个用户进行推荐时，针对循环神经网络（RNN）的门控循环单元（GRU）在团购推荐时没有考虑时序信息的影响，以及用户-商品交互序列中不相关的商品数据会产生噪声等问题，提出了融合时序感知GRU和自注意力的团购推荐模型（RTSA）。首先，通过计算用户购买的任意两个商品之间的个性化时间间隔，构建了时序感知GRU(TGRU)模型；然后，采用自注意力网络研究商品位置及个性化时间间隔的影响；最后，实验结果表明在Amazon Beauty数据集中，RTSA相较于对单个用户推荐的最优的基线模型——基于时间间隔感知自注意力的序列化推荐模型（TiSASRec），前10个商品命中率提升了11.73%。对群组用户进行推荐时，针对团购群组推荐中预定义的融合策略不能动态获取群组用户权重，以及群组-项目交互数据的稀疏性等问题，提出了融合社交网络和分层自注意力的团购推荐模型（SSAGR）。首先，采用RNN捕捉团购中用户随时间变化的复杂潜在兴趣；其次，利用分层自注意...