基于文本引导的注意力图像转发预测排序网络

转发预测在社交媒体网站(Social media sites, SMS)中是一个很有挑战性的问题. 本文研究了SMS中的图像转发预测问题, 预测用户再次转发图像推特的图像共享行为. 与现有的研究不同, 本文首先提出异构图像转发建模网络(Image retweet modeling, IRM), 所利用的是用户之前转发图像推特中的相关内容、之后在SMS中的联系和被转发者的偏好三方面的内容. 在此基础上, 提出文本引导的多模态神经网络, 构建新型多方面注意力排序网络学习框架, 从而学习预测任务中的联合图像推特表征和用户偏好表征. 在Twitter的大规模数据集上进行的大量实验表明, 我们的方法较之现有的解决方案而言取得了更好的效果.     

一种时空注意力网络的交通预测模型

交通预测在智能交通中有着重要的意义和应用.由于交通数据的复杂性和高度的非线性,精确的交通预测的核心挑战在于如何对复杂的空间相关性和时间动态建立模型.在现实生活中,我们发现:1)区域间的空间依赖是动态的;2)时间依赖有日和周的模式,但由于有动态时间变化,它不具有严格周期性.为了解决这两个问题,我们提出了一个新的时空注意力网络(STAN),该模型的主要思想是区域间的动态相似性用一个门控机制学习,长期周期性时间转移现象由一个周期性注意力转移机制来学习,并考虑交通道路、天气状况等外部因素.通过与不同的方法在两个数据集上进行评估,实验结果表明,我们提出的模型有更好的准确性.     

注意力ConvLSTM模型在RUL预测中的应用

预测性维护的应用能够极大地降低企业运维成本,而设备剩余使用寿命(Remaining Useful Life,RUL)预测是预测性维护的关键技术之一.针对传统RUL预测算法难以提取时序数据的潜藏特征以及特征权重分配不合理的问题,本文提出一种基于注意力机制(Attention Mechanism)的卷积长短时记忆(Convolution Long-Short Term Memory,ConvLSTM)预测模型,该模型充分利用LSTM网络处理和预测长期时间序列的优势,并引入注意力机制对产生显著影响的特征因子提高权重,极大地优化了模型的时空特征提取能力.为验证模型预测效果,本文以NASA提供的CMAPSS数据集为对象进行实验,以均方根误差(Root Mean Squared Error,RMSE)和数据集自定义的Score为评价指标,将预测结果与其他RUL预测算法作比对,证明了该模型具有更佳的预测准确性.     

融合关键对象识别与深层自注意力的Bi-LSTM情感分析模型

在线评论文本通常涉及多个评价对象,对象的表达方式有显式和隐式之分,针对不同对象的情感倾向可能不会完全一致.关键评价对象是评论中最受关注的对象,其相应的情感语义对整条评论的情感观点起主导作用.本文构建了融合关键对象识别与深层自注意力机制的Bi-LSTM模型,以提升短文本情感分类的效果.使用CNN处理文本,基于卷积层输出结果识别关键评价对象,并在此基础上完成深层自注意力的学习.将对象信息与文本信息进行融合,利用注意力机制强化的Bi-LSTM模型得到评论文本的情感分类结果.在酒店评论数据集上进行实验,与之前基于深度学习的模型相比,本文方法在精确率、召回率和F-score评价指标方面均有更好的表现.     

集中注意力 工作效率高

也许是意志力不够,每次坐到屏幕前总有许多事会让小王分心,比如想浏览一下新闻、听一会儿音乐、与MM聊天。一天下来,工作进度被耽误不少,时间就那么一分钟一分钟地浪费了。对此真的是很无奈,于是他决定用iFocuzOn来强制自己专心工作。iFocuzOn是一款绿色工具,     

非相似度保持投影

由主成分分析(PCA)可知任何一幅人脸图像都可以通过一组特征脸的线性加权来重构,PCA是最小均方误差意义下图像的最优表示,但是传统的PCA最终只通过比较加权系数的欧氏距离来进行识别,没有考虑残差。因此,提出非相似尺度的概念,将两个样本同时投影到相同向量上,在确定它们关系时既考虑投影系数,也考虑重构所产生的残差。两者的投影系数和残差相差越大,说明这两个样本越不相似。和保局投影(LPP)有所不同,非相似度保持投影算法不必预先设定近邻个数,它是利用非相似度的概念,创建非相似度散布矩阵,最终通过最大化目标函数获取最优子空间。在AR库和Feret库上的实验结果证明了该方法的有效性。     

航空发动机传感器故障鲁棒检测方法

研究发动机传感器故障准确检测问题,现代航空发动机数字电子控制系统对传感器的可靠性要求日益提高。针对航空发动机结构复杂,又工作在高温和高压下,常规采用的传感器故障检测方法的准确性易受到建模误差与外界扰动的影响,造成漏报或误报。为了提高检测精度,提出建立航空发动机数控系统传感器未知输入故障模型,采用特征结构配置的方法,通过配置闭环系统左特征向量实现故障检测残差对不确定性因素的干扰解耦,降低扰动对故障诊断结果的影响。用某型涡扇发动机数控系统传感器故障数字仿真试验表明,所设计的方法对范数有界的不确定量可以实现干扰解耦,抑制干扰对故障检测的影响,改善检测算法的鲁棒性,提高检测结果的准确性,同时满足在线运算的实时性要求。提高了航空发动机的可靠性,保证了安全飞行。     

基于注意力机制和卷积神经网络的异步电动机三相电压不平衡损耗研究

配电网中三相电压不平衡对异步电动机损耗会造成较大影响。运用等效电路公式分析三相电压不平衡影响下电动机损耗存在精度不稳定、需要参数过多且数学模型过于复杂等问题。针对以上问题,提出一种基于注意力机制和卷积神经网络(CNN)的异步电动机损耗评估方法。该方法将实测电机数据作为输入,引入注意力机制为输入特征赋予不同权重;采用卷积层和全连接层组成的CNN构架对异步电动机实测数据进行学习,最后完成损耗评估。以现场试验得到的电机损耗数据作为实际算例,该方法评估损耗与实测损耗平均误差仅为0.717%和0.549%,并与其他典型机器学习算法进行对比,结果表明所提方法具有更好的损耗评估性能。     

一种面向目标的情感极性分析方法

面向目标的情感分析是细粒度情感分析的重要任务之一,旨在预测句子中给定目标实体的情感极性.当前大多数研究方法忽略了句法结构信息,在情感判别时往往会关注无关词汇,从而使分类性能下降.为此,设计了一种新的引入句法结构的模型,该模型利用双向预训练编码器和作用于依存句法树的图卷积网络分别捕获文本的上下文信息和句法结构信息,并使用多头注意力机制进行信息聚合得到目标的情感分类表征.此外,还将该模型与现有的领域自适应方法相结合,同时向模型中引入领域知识和句法结构知识,进一步提升了模型效果.在几个常用的标准数据集上的实验结果表明了上述模型的有效性.     

基于改进MobileNet v2的垃圾图像分类算法

针对现有的垃圾图像分类模型实时性能差和分类精度低的问题,提出基于改进MobileNet v2的垃圾图像分类方法,构建以MobileNet v2为核心的轻量级特征提取网络. 通过调整宽度因子降低模型的参数量;在模型中嵌入通道和空间注意力模块,增强网络对特征的细化能力;设计多尺度特征融合结构,增强网络对尺度的适应性;利用迁移学习的方式优化模型参数,进一步提高模型精度. 实验结果表明,算法在自建数据集上的平均准确率为94.6%,分别高于MobileNet v2、VGG16、GoogleNet、ResNet50、ResNet101模型2.0%、3.4%、3.2%、2.3%、1.2%;所提算法在2种公共图像分类数据集CIFAR-100和tiny-ImageNet中均取得不错表现;模型参数量仅为0.83 M,体积约为基础模型的2/5,在边缘设备JETSON TX2上的单次推理耗时68 ms,实现了推理速度和预测准确率的提升.