基于Bi-LSTMA-CNNA的线上评论情感分析模型

基于深度学习的文本情感分析是目前自然语言处理研究的重要方向,在卷积神经网络、双向长短期记忆网络的基础上提出一种性能优于前面两种算法的情感分析算法.改进后的情感分析算法结合传统的深度学习结构,将双向长短期记忆网络、卷积神经网络以及注意力机制相结合,其中双向长短期记忆网络与注意力机制相结合的部分主要用来提取全局特征,并对目...     

基于注意力机制的GRA-EMD-BILSTM锂电池性能衰退趋势预测

随着电动汽车充放电次数的增加，其电池组的电池性能会逐渐衰退，长此以往会影响电动汽车的日常使用，甚至增加电动汽车发生故障的概率。目前针对长里程下的锂电池性能衰退趋势预测工作很少。针对深度学习在预测工作暴露出的不足，提出了一种以注意力机制为基础，联合了灰色关联度分析(GRA)和经验模态分解(EMD)的双向长短期记忆网络(BILSTM)，提出的网络能够有效地解决深度学习中出现的冗余特征、数据噪声对预测模型的影响。实验结果表明，在开源和非开源数据集中，该模型相比其他网络具有更好的预测性能。     

基于SE-SAE特征融合和BiLSTM的锂电池寿命预测

预测锂电池剩余使用寿命(RUL)时，针对电池外部特性参量电流、电压等单一的健康因子(HI)对电池退化特性无法完整覆盖的问题，提出一种结合通道注意力机制(SENet)和栈式自编码(SAE)进行特征融合并引入双向长短期记忆(BiLSTM)实现锂电池RUL的预测方法。充分提取锂电池电压、电流等HI。利用SAE对多个锂电池HI特征进行特征融合，并结合SENet通道注意力机制，增加重要特征在提取过程中的表现能力。利用BiLSTM网络对融合HI进行训练预测。采用NASA和马里兰大学计算机辅助寿命周期工程中心(CALCE)锂电池数据集进行验证，训练预测数据均采用50%的比例划分，预测结果的均方根误差(RMSE)平均值达到0.017。     

基于CEEMDAN-ISSA-BiLSTM的风电功率组合预测模型

针对风电功率存在间歇性、非线性和波动性而难以准确预测的问题，提出一种遵循“序列分解-网络预测-序列重构”的风电功率预测模型。针对风电场集群中的不同风电机组出力特性曲线，使用迭代自组织数据分析聚类算法(ISODATA)聚类得到典型出力曲线；利用自适应噪声完全集成经验模态分解(CEEMDAN)算法对聚类得到的原始风电序列数据进行模态分解，减少数据波动所带来的预测误差；建立各模态分量的双向长短期记忆网络(BiLSTM)预测模型，并使用改进麻雀搜索算法(ISSA)优化网络参数，再将各模态分量的预测结果叠加得到风电功率的最终预测结果。算例结果表明，所提预测模型的预测精度相比其他对比模型更高，且有着更好的泛化能力。     

基于注意力机制和CNN-BiLSTM模型的航空发动机剩余寿命预测

航空发动机作为飞机的主要动力源,其可靠性是保证飞机安全的关键。 剩余使用寿命预测对于提高航空发动机的可用 性和降低其寿命周期成本具有重要意义。 针对现有的预测算法存在对航空发动机多维数据特征提取不足的问题,提出了一种 基于注意力机制的卷积神经网络和双向长短期网络融合模型。 首先,采用卷积神经网络提取特征和双向长短期记忆网络获取 特征中的长短期依赖关系;其次,使用注意力机制来突出特征中的重要部分,提高模型预测的准确率。 为验证所提出方法的有 效性,在 C-MAPSS 数据集上进行了实验。 实验表明,模型可以准确地预测出航空发动机的剩余使用寿命,并比传统方法有着更 高的预测精度。     

基于自适应时序表征和多级注意力的超短期风电功率预测

针对风电功率数据包含的多尺度时间信息难以描述、现有方法未充分考虑气象因素对于风电功率动态耦合的影响而导致的预测性能下降等问题,提出了一种基于自适应时序表征和多级注意力的超短期风电功率预测方法。采用时序嵌入层对风电功率序列进行表征以获取其周期、非周期模式,并引入自注意力捕捉高维风电功率序列的自相关性;利用交叉注意力重构风电功率与气象因素,形成包含两者耦合关系的多维特征序列;利用一维卷积神经网络沿时间、特征方向分别挖掘多维特征序列的时间相关性和空间相关性,进而利用长短期记忆网络提取相应的时序特征,并将所得时序特征经全局注意力去噪和门控机制融合后输入全连接层,分别进行点预测和区间预测。实验结果表明,所提方法能够获得准确的点预测值和可靠的预测区间。     

基于双重注意力机制的电池SOH估计和RUL预测编解码模型

锂电池的健康状态(SOH)和剩余使用寿命(RUL)精确评估对电池安全稳定运行极为重要，而现有预测模型内部运行机制透明性低，导致评估可靠性较差。文中提出一种基于双重注意力机制的双向长短期记忆网络编解码模型进行SOH估计和RUL预测。编码侧的特征注意力机制和解码侧的时序注意力机制不仅通过动态分配特征和时序信息的权重提升了模型预测精度，还通过可视化权重的方法实现了模型可解释性。最后，利用NASA和CALCE公开的电池数据集进行实验测试，验证了所提方法具有较高的精度和可靠性。     

基于组合深度学习的光伏功率日前概率预测模型

为准确量化复杂场景下光伏预测功率的不确定性,提出了一种基于时序卷积网络-注意力机制-长短期记忆网络组合的光伏功率短期概率预测方法。首先,基于多种相关性分析方法选出与光伏功率强相关的气象因素;然后,基于时序卷积网络的特征提取能力和长短期记忆网络的时序特征建模能力,并结合注意力机制和分位数回归,建立组合深度学习预测模型;最后,采用核密度估计方法生成连续概率密度函数。以实际集中式和分布式光伏电站为案例进行分析,结果表明：与长短期记忆网络、时序卷积网络、时序卷积网络-注意力机制和时序卷积网络-长短期记忆网络相比,所提方法在确保最优预测区间的同时,可以提升概率密度预测的性能。     

Encoder-Decoder LSTM 网络的输电 母排触点温度预测方法

机场行李传送装置输电母排触点状态的观测,对减少机场行李传送装置意外停机、保障机场正常运营具有重要的意义。输电母排触点故障发生时往往伴随温度的上升,温度的变化能够直观反映输电母排触点状态。因此可以采用编码器-解码器长短期记忆网络(Encoder-Decoder LSTM)对输电母排触点进行温度预测。首先采用双向长短期记忆网络(Bi-LSTM)组成的编码器对母排触点的历史温度数据进行编码,再由长短期记忆网络(LSTM)组成的解码器预测输出输电母排触点未来一段时间的温度值。通过对国内某机场行李传送装置一个月的温度观测数据进行测试。实验结果表明采用Encoder-Decoder LSTM的时间序列预测方法优于传统的时间序列预测模型以及其他现有的深度学习预测模型。     

基于CNN-LSTM分位数回归的母线负荷日前区间预测

针对部分工业类母线负荷波动较大,传统点预测方法难以准确预测的问题,文中提出一种基于卷积神经网络(CNN)与长短期记忆网络分位数回归(QRLSTM)组合的母线负荷日前区间预测模型。首先,针对工业类负荷功率的高频波动,采用去噪自编码器对历史负荷数据进行降噪处理;然后,利用基于时间分布层封装的一维CNN网络进行负荷特征提取和压缩,以提升整个模型的学习效率;最后,建立含有注意力机制的QRLSTM模型进行特征学习,得到不同分位数下的负荷区间预测结果。对工业类和居民商业类2种典型的220 kV母线负荷进行了负荷日前区间预测测试,并与常规的分位数回归方法进行了对比。结果表明,文中方法获得的预测结果总体上区间覆盖率更大、区间平均宽度和区间累计偏差均更小,预测效果更好。     

基于注意力机制的FPGA布线拥塞预测

随着FPGA设计复杂性的不断增加，物理设计需要大量的优化迭代才能实现，布线拥塞影响芯片的面积及时延等性能指标，因此需要准确快速的预测并提前解决。提出一个FPGA布线拥塞预测模型CBAM-CGAN，模型在布局阶段提取特征合成学习图像，引入注意力机制学习增强图像各个特征通道的重要程度，提高布线拥塞的预测性能。实验结果表明，方法在布局阶段的布线拥塞预测取得了较好效果。相比于条件对抗生成网络模型，结构相似度平均值提高了0.89%，峰值信噪比平均值提高了1.37%，归一化均方根像素差平均值降低了3.8%，像素精度差平均值降低了0.06%，单张图像的预测时间约为0.1 s。实验数据证明了模型在FPGA布线拥塞的准确性和快速性。     

基于混合模态分解和LSTM-CNN的变压器油中溶解气体浓度预测

对油中溶解气体浓度进行预测,可提前掌握变压器运行趋势。提出一种基于混合模态分解和LSTMCNN(long short-term memory network-convolution network)网络的预测方法,实现精准的气体浓度预测。首先,为消除分解中模态混叠和残余白噪声的影响,对气体序列进行ICEEMDAN分解,以削弱序列的非平稳性;然后,使用VMD对聚合重构后的高频分量进行二次分解,降低高频分量的复杂度;最后,为了增强模型对序列时间特征和空间特征的拟合,采用结合时间注意力机制的LSTM-CNN网络对分解分量分别进行预测并重构气体浓度数据。算例验证表明,所提出的模型相比其他模型具有更强的预测性能,为后续故障预测提供有力支撑。     

基于CEEMDAN和改进时间卷积网络的短期风电功率预测模型

近年来,风力发电逐渐成为可再生能源发电的关键部分.为了提高风力发电功率短期预测的准确度,提出了一种将自适应噪声完备集成经验模态分解与改进时间卷积网络结合的短期风电功率预测模型.首先,利用CEEMDAN对风电功率序列进行分解,得到子序列分量,并分别与关键气象变量数据构成训练集.然后,使用基于时间模式注意力机制的时间卷积网...     

传感器输出时间序列实时预测方法的比较研究

为了提高传感器输出时间序列的实时预测精度,分析了时间序列可以预测的内在机理,认为噪声是影响预测精度的主要因素,提出了小波滤波与神经网络相结合的组合预测法,研究了最小二乘支持向量机的预测法,并选用了典型的过程变量信号,将两种方法进行了比较.仿真实验结果表明,小波滤波与神经网络相结合的组合预测法能够在消除测量噪声对预测精度...     

基于完整自适应噪声集成经验模态分解的LSTM-Attention网络短期电力负荷预测方法

短期电力负荷预测在电网安全运行和制定合理调度计划方面发挥着重要作用。为了提高电力负荷时间序列预测的准确度,提出了一种由完整自适应噪声集成经验模态分解(complete ensemble empirical mode decomposition with adaptive noise, CEEMDAN)和基于注意力机制的长短期记忆神经网络(long short-term memory network based on attention mechanism, LSTM-Attention)相结合的短期电力负荷预测模型。完整自适应噪声集成经验模态分解有效地将负荷时间序列分解成多个层次规律平稳的本征模态分量,并通过神经网络模型预测极大值,结合镜像延拓方法抑制边界效应,提高分解精度,同时基于注意力机制的长短期记忆神经网络自适应地提取电力负荷数据输入特征并分配权重进行预测,最后各预测模态分量叠加重构后获得最终预测结果。通过不同实际电力负荷季节数据分别进行实验,并与其他电力负荷预测模型结果分析进行比较,验证了该预测方法在电力负荷预测精度方面具有更好的性能。     

基于多头注意力机制和门控循环单元神经网络的居民充电桩容量预测

居民充电桩的容量预测可为其定容选址提供参考,助力实现“双碳”目标,为此提出了一种基于数据驱动的居民充电桩容量预测方法。首先,采集了居民充电桩的历史容量数据并进行预处理;其次,利用不同大小的时序窗口对其进行切片作为输入特征;最后,构建了结合多头注意力机制和门控循环单元神经网络的预测模型,将特征输入模型从而实现了对未来容量的精准预测。通过实例分析表明,该模型预测结果的平均绝对误差和均方根误差分别为33.19和102.14%,预测精度相较于其他模型有较大提升,为居民充电桩的容量预测提供了新思路。     

基于隐含数据信息挖掘的贝叶斯电采暖负荷预测

冬季电采暖负荷的准确预测对电网安全稳定运行以及电力系统调峰和调频具有重要意义。为充分挖掘冬季电采暖负荷数据中隐含信息,提出基于贝叶斯网络的多变量冬季电采暖负荷预测方法。首先将隐含信息数据中的多变量数据分为可观测数据和隐含数据,依据变量之间的影响机制搭建贝叶斯网络结构,并通过EM(Expectation Maximization Algorithm)算法训练可观测数据信息,获取隐含数据分布,进而基于可观测数据和隐含数据实现冬季电采暖负荷预测。采用北京电力公司提供的冬季电采暖负荷实测数据进行验证,结果表明,采用贝叶斯网络进行电采暖负荷预测具有较高的预测精度。     

基于改进U-Net的输电线路绝缘子图像分割方法研究

针对输电线路巡检航拍的绝缘子图像存在背景复杂、对比度不明显、图像质量不能保证等情况造成绝缘子分割精度不高的问题,提出一种基于注意力模型改进U-Net网络的分割方法。首先以VGG16替换主干特征提取网络,增强网络的适用性;同时在下采样过程中引入注意力模型,增强对绝缘子目标的辨识能力,抑制背景、噪声等干扰信息,实现更加精确的分割。实验结果表明:CBAM注意力模型与U-Net网络相结合的方式效果最好,平均重叠度可达96.57%。     

CNN A BLSTM network的双人交互行为识别*

关节点数据结合卷积神经网络用于双人交互行为识别存在图像化过程中对交互信息表达不充分且不能有效建模时序关系问题,而结合循环神经网络中存在侧重于对时间信息的表示却忽略了双人交互空间结构信息构建的问题。为此提出一种新的卷积神经网络结合加入注意机制的双向长短时期记忆网络（CNN A BLSTM network）模型。首先对每个人的关节点采用基于遍历树结构进行排列,然后对视频中的每一帧数据构建交互矩阵,矩阵的中的数值为排列后双人之间所有的关节点坐标间的欧氏距离,将矩阵进行灰度图像编码后所得图像依次送入CNN中提取深层次特征得到特征序列,然后将所得序列送入A BLSTM网络中进行时序建模,最后送入Softmax分类器得到识别结果。将新模型用于NTU RGB D数据集中的11类双人交互行为的识别,其准确率为90%,高于目前的双人交互行为识别算法,验证了该模型的有效性和良好的泛化性能。