混合神经网络和条件随机场相结合的文本情感分析

针对当前文本情感分析中神经网络模型训练时间长,上下文信息学习不足的问题,该文提出了一种结合混合神经网络和条件随机场(conditional random fields,CRF)的模型.该模型将神经网络作为语言模型,结合了卷积神经网络(convolutional neural networks,CNN)与双向门控循环单元...     

基于门控化上下文感知网络的词语释义生成方法

传统的词典编纂工作主要采用人工编纂的方式,效率较低且耗费大量的资源。为减少人工编纂的时间和经济成本,该文提出一种基于门控化上下文感知网络的词语释义生成方法,利用门控循环神经网络(GRU)对词语释义生成过程进行建模,自动为目标词生成词语释义。该模型基于编码器—解码器架构。编码器首先利用双向GRU对目标词的上下文进行编码,并采用不同的匹配策略进行目标词与上下文的交互,结合注意力机制分别从粗粒度和细粒度两个层次将上下文信息融合到目标词的向量表示中,最终获得目标词在特定语境中的编码向量。解码器则同时基于目标词的语境与语义信息为目标词生成上下文相关的词语释义。此外,通过向模型提供目标词字符级特征信息,进一步提高了生成释义的质量。在英文牛津词典数据集上进行的实验表明,该文提出的方法能够生成易于阅读和理解的词语释义,在释义建模的困惑度和生成释义的BLEU值上分别超出此前模型4.45和2.19,性能有显著提升。     

基于KPCA-K-means-GRU的短期风电功率预测研究

风能间歇性和波动性的特点给电网的平稳运行造成了很大的挑战,导致电网企业限制风电并网,造成弃风行为。因此,实时有效地预测风力发电情况对风电开发和电网的平稳运行至关重要。在分析当前多种预测方法后,提出了基于核主成分分析K均值聚类-门控循环单元(KPCA-K-means-GRU)的短期风电功率预测模型。多维数据能够较好地还原实际物理状态,但过高维度的数据会带来维数灾难。因此,利用非线性的KPCA在保留高维数据信息的同时降低数据维度。随后借鉴负荷预测相似日思路,将降维后的数据通过K-means进行无监督聚类以建立不同的预测模型来提高预测精度。最后分别训练不同类别数据的GRU神经网络参数,进行分类预测以获得更合适的网络模型。     

基于小波能量谱和SSA-GRU的混合直流输电系统故障测距方法

针对混合直流输电系统故障测距存在行波波头难以识别以及固有主频不易提取的问题,提出一种基于小波能量谱和麻雀搜索算法(sparrow search algorithm, SSA)优化的门控循环单元(gate recurrent unit, GRU)模型的故障测距方案。首先,分析频谱能量与故障距离的相关关系,利用小波包分解提取小波包能量谱特征向量,作为GRU模型输入。其次,搭建和训练GRU模型,挖掘时间序列中的深层次故障信息,并利用SSA的迭代寻优对GRU模型参数进行优化,实现故障距离的快速准确定位。最后,在PSCAD/EMTDC 中搭建混合三端直流输电系统模型,实验结果证明该方法定位精度高、抗干扰能力和泛化能力强,并具有一定的耐过渡电阻能力。     

Music Genre Classification Using DenseNet and Data Augmentation

It can be said that the automatic classification of musical genres plays a very important role in the current digital technology world in which the creation, distribution, and enjoyment of musical works have undergone huge changes. As the number of music products increases daily and the music genres are extremely rich, storing, classifying, and searching these works manually becomes difficult, if not impossible. Automatic classification of musical genres will contribute to making this possible. The research presented in this paper proposes an appropriate deep learning model along with an effective data augmentation method to achieve high classification accuracy for music genre classification using Small Free Music Archive (FMA) data set. For Small FMA, it is more efficient to augment the data by generating an echo rather than pitch shifting. The research results show that the DenseNet121 model and data augmentation methods, such as noise addition and echo generation, have a classification accuracy of 98.97% for the Small FMA data set, while this data set lowered the sampling frequency to 16000 Hz. The classification accuracy of this study outperforms that of the majority of the previous results on the same Small FMA data set.     

融合GRU和CNN的轻量级网络入侵检测模型

当前网络流量数据呈现出高维、多态、海量的特点, 这对入侵检测是一个新挑战. 针对传统入侵检测模型中检测效率低、缺乏轻量化考虑等局限性, 提出了一种融合GRU和CNN的轻量级网络入侵检测模型. 首先使用极度随机树删除数据集中的冗余特征; 其次使用GRU进行特征提取. 考虑到数据中的长短期依赖关系, 将所有隐藏层输出作为序列特征信息进行下一步处理; 再通过带有逆残差、深度可分离卷积、空洞卷积等结构的轻量化CNN模型进行空间特征提取; 为了加速模型收敛加入了通道注意力机制. 最后在CIC-IDS2017数据集上的实验表明, 该方法具有优秀的检测性能, 同时也具有模型参数量少、模型体积小、训练时间短、检测时间短等优点, 适用于网络流量的入侵检测工作.     

基于跨会话知识图谱的图注意力网络推荐方法

基于会话的推荐方法旨在根据匿名用户行为序列预测下一个项目。然而,现有会话推荐方法多基于当前会话建模用户偏好,忽略了会话间蕴含的语义信息及知识图谱中丰富的实体和关系信息,无法有效缓解数据稀疏性的问题。提出一种基于跨会话信息与知识图谱的图注意力网络推荐方法。通过有效整合跨会话信息和知识图谱中的项目知识构建跨会话知识图谱,利用知识感知的注意力机制计算各邻居节点的重要性分数,以更新项目节点表示,采用门控循环单元和图注意力网络将每个会话表示为该会话的当前偏好和全局偏好的组合。在此基础上,将会话嵌入和项目嵌入拼接后输入到多层感知机,得到目标会话和候选项目的预测分数,从而实现会话推荐。实验结果表明,与GRU4REC、SR-GNN、FGNN等方法相比,该方法在KKBOX和JDATA两个真实数据集上的推荐命中率分别至少提高了8.23和2.41个百分点,能有效增强会话推荐性能。     

基于GRU-MPC的光储充电站日前-日内两阶段优化控制

电动汽车负荷与光伏出力的随机性给光储充电站的经济运行带来严峻考验。为了更高效地利用储能系统以及提高控制策略的鲁棒性,建立光储充电站日前-日内两阶段优化模型。在日前阶段,结合变分模态分解与门控循环单元神经网络预测一天48个时刻的充电负荷,并建立以日充电成本最小为目标的优化模型;在日内阶段,以日前调度计划与日内实际运行结果的偏差最小为目标,采用模型预测控制来实现滚动优化,为了增强储能控制策略对不确定源荷的跟踪能力,在日内关键时间点结合超短期源荷预测的结果对日前计划进行更新,得到基于阶段性最佳参考轨迹的实时调度。以实际算例进行仿真计算,比较不同控制策略对充电成本的影响,结果表明所提两阶段优化控制策略可以节省更多的充电成本,有更高的经济价值。     

基于新型日期映射法和ISGU混合模型的短期电力负荷预测

针对电力负荷非线性、预测条件多样性、预测模型参数设置主观性等问题,提出一种基于强适应性的日均负荷日期映射法、高非线性拟合性能的门控循环单元(Gate Recurrent Unit, GRU)和强搜索性能的改进麻雀搜索算法(Improved Sparrow Search Algorithm, ISSA)相结合的ISSA-GRU(ISGU)混合模型进行短期电力负荷预测(Short-term Load Forecasting, STLF)。首先,利用日均负荷日期映射法对星期-节假日因素进行映射,解决该因素因非数字化导致不易输入预测网络的问题。随后,从诸多相关因素中筛选出高度相关特征值,以此解决预测条件多样性问题。最后,构建GRU网络进行负荷预测,并引入ISSA算法对GRU网络参数进行客观配置。为验证ISGU混合模型的有效性,采用新加坡电力负荷数据进行实验,并将实验结果与现有算法进行比较。实验结果表明,所提方法对STLF具有良好性能,有效提高了STLF统计标准的精度指标。     

基于PSO-GRU神经网络的青椒生长期需水预测

青椒生长期内需水量与气温、气压、相对湿度等因子之间存在复杂的非线性关系,需水量变化呈现出时序性和周期性的规律,为提高青椒生长期日均需水量的预测精度,提出一种PSO-GRU青椒生长期日均需水预测模型。以2014—2018年实验所得的青椒需水和气象环境等数据为数据源,将日均气温、气压、风速等六维数据作为特征集,需水量作为标签,采用GRU神经网络作为需水预测的训练模型,并针对GRU超参数容易陷入局部最优的问题,利用粒子群算法(PSO）优化GRU模型的超参数,通过仿真实验对青椒生长期日均需水量进行预测,并与RNN,LSTM和GRU等模型进行对比,验证PSO-GRU模型的优越性。仿真实验结果表明：PSO-GRU模型的预测精度和拟合效果显著提高,RMSE为0.505,MAE为0.388,MAPE为7.73,R2为0.888。PSO-GRU模型可为制定灌溉计划提供依据,有利于节水灌溉,推动农业种植水利信息化。