ARM+FPGA双核计算的配电自动化终端设计

为了提高配电自动化终端数据信息自动化分析能力,设计了基于ARM+现场可编程门阵列(FPGA)双核计算的配电自动化终端。为了提高模块计算能力,在模块中构建了堆叠式自动编码器-神经网络(SAE-NN)深度学习算法模型。在常规堆叠式自动编码器(SAE)深度学习模型基础上融合神经网络(NN)模型,应用过程中改善传统NN对分层节点数目的限制。试验结果表明,所设计终端随着系统运行能达到95%以上的精度,而现有SAE模型仅达到85%左右的精度。通过与文献[1]和文献[2]方法的对比可知,所设计终端有较高的调度能力。该设计显著提高了配电网数据信息的分析精度,大幅提升了电网应用对数据信息处理的准确度和效率。     

基于小波分解的时序预测模型mWDLNet及其应用研究

各种类型的深度神经网络模型已被应用到时序分析中,但基于频域的神经网络与时域的线性模型融合仍然缺乏有效的模型.提出一种基于多级小波分解的深度网络和差分自回归移动平均模型相融合的方法(mWDLNet),时序信号经小波分解到频域,由卷积神经网络和长短期记忆网络提取时序信号的空间和时间维度特征,同时利用差分自回归移动平均模型(ARIMA)解决神经网络模型的尺度不敏感问题,最后融合两部分的输出结果,提高了预测的准确性.并通过实验验证了mWDLNet模型添加小波分解、卷积模块以及融合线性预测的有效性.将提出的模型应用于北京气象数据集,进行PM2.5浓度预测,并与常用的时序预测模型进行对比分析,结果表明,提出的mWDLNet模型能达到更好的预测结果.     

基于图卷积神经网络的小分子属性预测模型

图神经网络作为近年来的热门深度学习算法,已被应用于各个领域。分子性质预测作为药物开发过程中的一项基本任务,围绕着分子属性预测任务涌现出许多优秀的机器学习模型,然而传统机器学习模型大多采用人工设计的分子描述符作为分子表示,这会导致信息丢失从而影响预测效果。图神经网络将分子数据表示为分子图,可以有效避免这一问题。文章采用图卷积神经网络对分子属性预测任务进行建模。模型在大型基准数据集QM9中取得了优于其他模型的误差分数。     

基于堆叠模型的司法短文本多标签分类

司法文书短文本的语义多样性和特征稀疏性等特点,对短文本多标签分类精度提出了很大的挑战,传统单一模型的分类算法已无法满足业务需求。为此,提出一种融合深度学习与堆叠模型的多标签分类方法。该方法将分类器划分成两个层次,第一层使用BERT、卷积神经网络、门限循环单元等深度学习方法作为基础分类器,每个基础分类器模型通过K折交叉验证得到所有数据的多标签分类概率值,将此概率值数据进行融合形成元数据;第二层使用自定义的深度神经网络作为混合器,以第一层的元数据为输入,通过训练多标签概率矩阵获取模型参数。该方法将强分类器关联在一起,获得比单个分类器更加强大的性能。实验结果表明,深度学习堆叠模型实现了87%左右的短文本分类F1分数,优于BERT、卷积神经网络、循环神经网络及其他单个模型的性能。     

基于自适应深度集成网络的概念漂移收敛方法

概念漂移是流数据挖掘领域中的一个重要且具有挑战性的难题.然而,目前的方法大多仅能够处理线性或简单的非线性映射,深度神经网络虽然有较强的非线性拟合能力,但在流数据挖掘任务中,每次只能在新得到的1个或一批样本上进行训练,学习模型难以实时调整以适应动态变化的数据流.为解决上述问题,将梯度提升算法的纠错思想引入含概念漂移的流数据挖掘任务之中,提出了一种基于自适应深度集成网络的概念漂移收敛方法 (concept drift convergence method based on adaptive deep ensemble networks,CD＿ADEN).该模型集成多个浅层神经网络作为基学习器,后序基学习器在前序基学习器输出的基础上不断纠错,具有较高的实时泛化性能.此外,由于浅层神经网络有较快的收敛速度,因此所提出的模型能够较快地从概念漂移造成的精度下降中恢复.多个数据集上的实验结果表明,所提出的CD＿ADEN方法平均实时精度有明显提高,相较于对比方法,平均实时精度有1%～5%的提升,且平均序值在7种典型的对比算法中排名第一.说明所提出的方法能够对前序输出进行纠错,且学习模型能够快速地从概念...     

药物-靶点亲和力预测的全局特征提取策略

为有效解决药物靶点亲和力预测中单模型提取特征种类受限问题,结合深度学习混合模型,提出一种深度并行全局特征提取策略。利用卷积神经网络(CNN)和特征存储融合层构建局部特征提取器,实现药物靶点序列局部特征的多层次提取、存储与压缩;利用卷积神经网络(CNN)和双向长短时记忆(Bi LSTM)神经网络的串行混合模型构建上下文特征提取器,提取局部特征之间的上下文联系;将两种互补特征进行融合。该特征提取策略解决了单模型提取特征种类受限问题,缓解了数据集差异对特征提取效率的影响。实验结果表明,该特征提取策略有助于提升预测模型的预测性能。     

SDAE-LSTM模型在金融时间序列预测中的应用

针对金融时间序列预测的复杂性和长期依赖性，提出了一种基于深度学习的LSTM神经网络预测模型。利用堆叠去噪自编码从金融时间序列的基本行情数据和技术指标中提取特征，将其作为LSTM神经网络的输入对金融时间序列进行预测；通过LSTM神经网络的长期依赖特性来提高金融时间序列的预测精度。利用股价指数数据，与传统的神经网络的预测结果进行比较，结果表明基于深度学习的LSTM神经网络具有比较高的预测精度。     

基于大数据和深度学习的全社会月用电总量预测

为解决经典方法预测全社会用电总量预测数值精度较低、模型结构参数过于复杂等技术难题,本文提出将电力大数据和人工智能领域深度学习算法相结合的研究方法。采用计算机建立具有阶层结构的深度神经网络,根据仿生学原理引入线性整流函数解决梯度消失及神经网络收敛速度减慢问题,采用梯度下降来进行优化模型,同时通过引入指数衰减法由神经网络模型自动设定学习率以提高模型预测精度并降低迭代次数。从数量场的梯度原理并结合泰勒公式,推导出梯度下降法背后数学原理。为解决过拟合问题引入早停算法以提高模型训练速度及泛化能力。最后深度学习算法预测数值与经典线性回归算法预测数值相比较,深度学习算法在对全社会月用电总量的预测精准度、稳定性指标上明显优于线性回归算法,深度神经网络模型对未来全社会电力需求的预测数值具有高度的可信性。     

基于空洞卷积与多尺度特征融合的室内场景单图像分段平面三维重建

受光照变化和纹理缺乏等因素的影响,基于单幅室内场景图像的像素级和区域级三维重建算法很难恢复场景结构细节.本文提出了一种基于空洞卷积残差连接和多尺度特征融合网络的分段平面三维重建算法.该算法通过融合利用加入空洞卷积的ResNet-101网络产生的浅层高分辨率细节特征,从而减小随着网络结构的层次加深导致空间信息的丢失对三维重建细节的影响,使模型能够学习单幅图像中室内复杂场景的细节特征,并通过将全连接条件随机场优化的定位精度与深度卷积神经网络的识别能力相耦合,更好地处理了边界定位问题.实验结果表明,本文算法对复杂背景的室内场景的平面预测鲁棒性强,平面分割结果准确,且深度预测精度平均可达到92.27％.     

一种基于增强图卷积神经网络的协同推荐模型

图卷积神经网络是一种针对图结构数据的深度学习模型,由于具有强大的特征提取和表示学习能力,它也成为当前推荐系统研究的热门方法.以推荐系统中的评分预测为研究对象,通过分析指出了现有的基于图卷积神经网络的推荐模型存在2个方面的不足:图卷积层仅仅利用了1阶协同信号和未考虑用户观点的差异.为此,提出一种端到端的、基于增强图卷积神经网络的协同推荐模型.它采用一种增强的图卷积层,不仅聚合了2阶协同信号而且融合用户观点的影响,从而更合理地利用协同信号学习实体节点的嵌入表示,并通过堆叠多个图卷积层对其进行精化;最后,采用了非线性的多层感知机实现评分预测.基于5种推荐数据集上的实验结果表明:新模型的预测误差相比于几种主流的推荐模型具有明显的降低.