基于RNN的试题相似度计算模型研究与实现

由于对试题库的管理缺乏相应的相似度检测手段,导致试题库会存在相似试题和重复试题。这些高相似度试题不仅会严重影响了试题库的管理,而且对知识的考核与评估、考试系统测评等都造成不良影响,因此需要采取必要的技术针对知识库中的相似试题进行处理。为此本文进行了试题库相似度计算的相关研究,展开了基于循环神经网络(RNN)的相似度计算模型的相关研究。     

基于多特征提取的图像语义描述算法

针对图像语义描述方法中存在的图像特征信息提取不完全以及循环神经网络(RNN)产生的梯度消失问题,提出了一种基于多特征提取的图像语义描述算法.所构建模型由三个部分组成:卷积神经网络(CNN)用于图像特征提取,属性提取模型(ATT)用于图像属性提取,而双向长短时记忆(Bi-LSTM)网络用于单词预测.该模型通过提取图像属性...     

ReLU激活函数优化研究

门控循环单元(GRU)是一种改进型的长短期记忆模型(LSTM)结构,有效改善了LSTM训练耗时的缺点.在GRU的基础上,对激活函数sigmoid,tanh,ReLU等性能进行了比较和研究,详细分析了几类激活函数的优缺点,提出了一种新的激活函数双曲正切线性单元(TLU).实验证明:新的激活函数既能显著地加快深度神经网络的训练速度,又有效降低训练误差.     

基于混合关节特征的人体行为识别

针对现有行为识别方法中识别效率低,受环境干扰强等缺点,提出了一种基于混合关节特征的人体行为识别方法.混合关节特征由不同的骨骼关节表达构成,综合了各种行为信息,包括动能、势能、关节方向和关节角度,使得特征表达更加有效.利用具有良好处理时间序列能力的长短期记忆(LSTM)神经网络作为分类器进行人体行为识别.在MSR Action 3D数据集上的实验表明:基于混合关节特征较现有的其他许多骨骼特征表现更好.     

基于时空相关性的LSTM算法及PM2.5浓度预测应用

现阶段空气污染物粒子浓度演进过程模拟与预测算法忽视了粒子浓度的空间相关性,且没有实现粒子浓度的时间依赖性与空间相关性融合.对此,提出基于时空相关性的LSTM算法(TS_LSTM)并应用于PM2.5浓度预测.该算法提出空间相关性及其相关因子计算方法;将局部区域相关性因子与LSTM算法的遗忘门和记忆门融合,建立基于局部地理...     

基于Bi-LSTM和多通道注意力的电网施工中违章量预测方法

针对配电网施工中违章现象频发导致监管工作中出现的频繁调度问题,提出一种基于双向长短时记忆（Bi-LSTM）和多通道注意力机制的电网施工作业违章量预测方法。首先,通过Word-Embedding将文本转换为词向量;其次,通过Bi-LSTM网络来捕捉违章数量影响因素的浅层语义和时序特征;最后,设计多通道注意力机制,通过多组权重向量来学习多个影响因素以及各因素之间的复杂关系,从而提高模型的特征学习能力。以云南地区真实数据为算例开展实验,所提模型在一天预测中的平均绝对百分比误差（MAPE）与均方根误差（RMSE）两个指标分别达到了2.58%和5.2,从而验证了模型在预测精度和算法鲁棒性方面的优越性。该方法不依赖于任何具体情境,在实际工况环境中具有较好的推广价值。     

引入外部记忆的循环神经网络的口语理解

循环神经网络（RNN）越来越在口语理解（Spoken Language Understanding,SLU）任务中显示出优势。然而,由于梯度消失和梯度爆炸问题,简单循环神经网络的存储容量受到限制。提出一种使用外部存储器来提高记忆能力的循环神经网络。并在ATIS数据集上进行了实验,并与其他公开报道的模型进行比较。结果说明,在口语理解任务上,提出的引入外部记忆的循环神经网络在准确性、召回率和F1值都有较明显提高,优于传统循环神经网络及其变体结构。     

基于准循环神经网络的语音增强方法

在基于深度学习的语音增强模型中,长短时记忆网络能较好地解决序列语音增强问题,但该模型在处理大规模含噪语音数据时存在训练速度缓慢的问题.为此,提出一种基于准循环神经网络的语音增强方法.利用门函数和记忆单元确保含噪语音序列上下文的相关性,门函数的计算不再依赖上一时刻的输出,且该模型在含噪语音序列的输入和门函数的计算中都引入矩阵的卷积运算,使模型可以同时处理多个时刻的语音序列信息,从而增强模型并行计算的能力.实验结果表明,与长短时记忆网络相比,该方法能在保证语音增强性能的前提下,有效提高网络模型的训练速度.     

基于改进DNN-LSTM算法的车辆前方行人行为识别方法

为提高行驶车辆前方行人行为识别精度,提出了基于经验模态分解的深度神经网络与长短时记忆网络相结合的行人行为识别方法。该方法在分析骨架节点表征参数的基础上,采用势能、相对位置、加速度、角加速度作为表征参量描述行人行为,利用经验模态分解可以平滑数据的优点,建立深度神经网络与长短时记忆网络融合的识别模型,实现对车辆前方行人行为的准确识别。采用Weizmann数据集和KTH数据集对该方法有效性检验。结果表明,该方法基于两个数据集对车辆前方行人行为识别准确率分别为98.58%和98%,能够为辅助驾驶系统等提供有效的数据支持。     

基于深度级联孪生网络的小样本调制识别算法

为解决传统基于深度学习的调制识别算法在小样本条件下识别准确率较低的问题,提出一种基于深度级联孪生网络的通信信号小样本调制识别算法。根据通信信号时序图的时空特性,设计由卷积神经网络和长短时记忆网络级联的特征提取模块将原始信号特征映射至特征空间,同时在孪生网络架构下对提取的特征进行距离度量并以相似性约束训练网络,避免特征提取模块在训练过程中出现过拟合现象,最终通过最近邻分类器识别待测样本的调制类别。在DeepSig公开调制数据集上的实验结果表明,与传统基于深度学习的调制识别算法相比,该算法能有效降低训练过程中所需的样本量,且在小样本条件下的识别准确率更高。     

基于改进RNN的多变量时间序列缺失数据填充算法

随着大数据时代的来临,多变量时间序列的应用价值得到了越来越多的关注。然而,缺失数据的存在严重影响了对多变量时间序列的进一步开发利用。针对这个问题,提出了基于改进递归神经网络的多变量缺失数据填充算法,该算法通过衰减机制可以获得更多有用的隐藏信息,从而更好地完成对多变量缺失数据的填充。首先,对多变量数据进行预处理,得到网络的输入向量;其次,在长短时记忆(Long-Short-Term Memory,LSTM)单元的基础上引入衰减机制,提出了两种改进的缺失数据填充模型。改进后的模型能够更多更好地获取长时间间隔的隐藏信息,并对输入进行相应的衰减处理。为检验算法的性能,在上海空气质量数据集以及多传感器数据融合活动识别系统(Activity Recognition system based on Multisensor data fusion,ARe M)数据集上进行了仿真实验。结果表明,相比于其他算法,所提算法能够更好地实现多变量时间序列的缺失数据填充。     

基于决策者偏好区域的多目标粒子群算法研究*

多目标优化问题中,决策者往往只对目标空间的某一区域感兴趣,因此需要在这一特定的区域能够得到比较稠密的Pareto解,但传统的方法却找出全部的Pareto前沿,决策效率不高。针对该问题,给出了基于决策者偏好区域的多目标粒子群优化算法。它只求出与决策者偏好区域相关的部分Pareto最优集,从而减少了进化代数,加快收敛速度,有利于决策者进行更有效的决策。算法把解与偏好区域的距离作为影响引导者选择和剪枝策略的一个因素,运用格栅方法实现解在Pareto边界分布的均匀性。仿真结果表明该算法是有效的。     

扩展正区域的属性约简方法

扩展了Rough集正区域和边界的定义,在得到信息系统最大正区域的前提下,给出了认知正区域、认知属性核和认知属性约简的定义,并给出了从经典属性约简到认知属性约简转换的高效算法。此外,在认知正区域的定义下,由于决策表的不相容性,在变精度模型下实现属性约简的增量处理是相当困难的,结合提出的高效算法,解决了这一问题。最后,仿真实验说明了算法的有效性。     

基于区域延伸的定性空间表示

在区域连接演算(region connection calculus,RCC)理论基础上给出了区域延伸的形式定义.通过区域延伸,定义了关联空间的概念,进而提出了空间表示的一个模型,在这个模型中给出了空间中物体的空间拓扑关系、距离关系、方向关系以及位置等信息的定性表示.智能体对空间关系的确定是通过区域延伸实现的,模型为智能体在约束空间环境中的行动推理提供了一个新的表示方法.     

基于多分支RNN快速学习算法的混沌时间序列预测

针对传统递归神经网络中出现的网络结构与计算复杂性,提出了使用多分支递归神经网络学习算法,并将其应用到混沌时间序列预测领域。首先缩减了部分冗余的分支,只保留了节点与自身之间以及节点与代表以后时刻的节点之间的分支;然后使用规则导数代替惯用的一般偏导数,有助于同时反映权值对目标函数的直接影响和间接影响;最后使学习率根据学习情况进行动态调整,有助于加快学习算法的收敛速度。仿真实验表明,当参数的选取合理时,多分支递归神经网络能够达到较高的性能。     

基于免疫算法的细菌觅食优化算法

针对细菌觅食优化算法经常出现的速度较慢、步长一致的缺陷,赋予细菌灵敏度的概念,对细菌游动的步长进行调节以提高收敛速度。采用免疫算法中的克隆选择思想,对精英细菌群体进行克隆、高频变异和随机交叉,引导算法提高搜索精度。典型高维函数测试表明,改进算法的搜索速度和精度得到极大提升,算法改造后可适用于多维、约束等实际工程问题中的优化。     

基于超混沌序列的图像加密技术

基于n次有理Bézier曲线给出构造超混沌序列的方法,生成的混沌序列具有很好的伪随机性,通过对混沌序列的非线性离散化处理,可以生成相应的整数型伪随机序列,利用该整数型混沌序列对数字图像进行加密.数字实验表明,该算法生成的混沌序列对数字图像加密效果良好,且该加密算法简单易行,具有较好的安全性.     

基于DNA的连续优化算法

用遗传算法进行函数优化已得到了较好应用。与遗传算法相比,DNA的编码更具丰富性,译码更具多样性,基因级操作更灵活,且更容易用DNA计算机实现。鉴于基于DNA的函数优化研究还较少,提出了一种基于DNA的连续优化算法。该算法用表示DNA的基本元素符号进行碥码,用其对应的密码子表征变量参数,用DNA的复制、重组、变异和倒位等操作实现对解空间的搜索。在这些过程中,参考了精英保留策略和模拟退火算法等思想方法,采取了若干加快收敛、同时满足搜索多样性要求的措施,以使算法加快收敛且不易早熟和陷入局部最优。计算机仿真实验表明该算法具有收敛快,精度高等特点,效果令人满意。     

基于选路优化的改进蚁群算法

蚁群算法在处理大规模优化问题时效率很低。为此对蚁群算法提出了基于选路优化的两点改进:(1)引入选路优化策略,减少了算法中蚁群的选路次数,显著提高了算法的执行效率。(2)在选路操作中,只根据当前城市的前C个距离最近的且未经过城市为候选城市计算选择概率,从而减少单个蚂蚁选路的计算量。尤其对于以往较难处理的大规模TSP问题,改进算法在执行效率上有明显的优势。模拟实验结果表明改进算法较之基本蚁群算法在收敛速度有明显提高。     

基于风驱动优化算法WDO的PID参数优化

鉴于PID控制器的优越性,其在工业控制领域中的引用越来越广泛。PID控制器的性能主要在于其参数优化设计,PID参数优化问题一直是研究热点。为了解决PID参数优化问题,提出了一种基于自然启发的风驱动优化算法（WDO）的PID优化控制方法,该算法以PID三个参量为控制对象,以误差绝对值和控制输入平方项的时间积分作为优化目标,经过迭代寻优计算得到系统最优控制量。通过计算机仿真,并与遗传算法和粒子群算法PID参数优化相比,结果表明：该算法提高了系统的控制精度、响应速度和鲁棒性,为控制系统PID参数整定提供了参考。