分布式深度学习的数据传输压缩机制研究综述

分布式深度学习已经成为深度学习领域最热门的研究之一,越来越庞大的数据模型和算法都依赖分而治之思想来处理。分布式深度学习系统在快速发展中遇到了许多挑战,其中最重要的是如何在分布式环境有限的网络带宽中有效地传输大量数据,以充分利用计算资源高效训练高精度的深度神经网络。针对这个问题,从参数同步、模型聚合和梯度压缩3个角度讨论不同的数据传输压缩技术,分别将其用于交错数据传输、减少数据交换频率以及减小单次传输数据量。最后对分布式深度学习的数据传输压缩机制的未来发展趋势进行了讨论和展望。     

分布式并行遗传算法在板材套料优化中的应用

讨论如何利用企业的分布式计算环境将分布式并行遗传算法用于矩形零件优化套排的问题。建立了利用企业分布式计算环境进行板材套料优化的组成模型，分析其计算过程、计算环境及其技术支撑系统，并通过算例说明相对于标准遗传算法，分布式并行遗传算法可以实现更高的效率和更好的优化结果之间的平衡。     

基于移动Agent的并行聚类算法模型

针对基于MPI环境的并行聚类算法需要手工配置数据,不利于调试程序等的不足,提出一个基于移动Agent的并行聚类算法模型.该模型以移动Agent为中心,负责系统性能数据的收集和计算任务的执行,可以实现数据的自动配置和计算.通过在基于移动Agent并行环境上的试验,该模型显示出良好的效率.     

基于深度学习的眼底图像辅助诊断系统设计

目前多数眼底图像分类方法主要针对单一类别疾病不同级别进行分类，且网络模型存在参数量大、计算复杂等问题。基于轻量化的SqueezeNet深度学习模型，设计了一种实现多标签眼底图像辅助诊断系统。在公开数据集ODIR上进行训练和验证，实验结果表明该系统具备强大的特征提取能力，可以在非大幅降低模型精度的情况下最大程度地提高系统的运行速度、降低系统内存消耗。该基于深度学习的眼底图像辅助诊断系统适合于硬件部署，可以为人工智能应用于计算机辅助医疗设备中提供一定的参考价值。     

Spark集群中还贷问题的逻辑回归模型研究

在Spark集群环境下,通过Sparklyr调用MLib中的并行逻辑回归算法对大规模抵押贷款数据的训练集进行监督学习,使用R语言建立一个预测客户是否会如期归还贷款的逻辑回归分类模型。为了研究该模型的可信性以及获取效率,本文补充了伪判定系数、分类评价指标、测试集性能几个指标对模型可信性进行评价,并判定了模型的可信性。在获得了可信模型的基础上,实验结果表明:当数据量增加到一定阈值后,在集群环境下使用并行的算法获得逻辑回归分类模型的速度要优于对应的串行算法。     

基于网络并行计算的结构损伤动力有限元分析

网络并行计算是当今并行计算发展的新方向。用网络并行思路探讨了结构损伤动力有限元并行分析算法的实现方法,并在曙光－1000A分布式并行计算机上进行了测试。通过对实验数据的分析,讨论了该算法的并行效率。     

基于网络并行计算的结构损伤动力有限元分析

网络并行计算是当今并行计算发展的新方向。用网络并行思路探讨了结构损伤动力有限元并行分析算法的实现方法,并在曙光－1000A分布式并行计算机进行了测试。通过对实验数据的分析,讨论了该算法的并行效率。     

并行FDTD结合服务器分析电大电磁问题

为了在刀片服务器平台发挥并行FDTD的最佳性能,以舰船模型上两根超短波天线的远场辐射分析为例,采用各种节点配置和MPI虚拟拓扑结构进行计算,分析了不同MPI虚拟拓扑对并行性能的影响,提出了刀片服务器平台中MPI编程环境的并行FDTD的最佳虚拟拓扑选择原则.以F117飞机模型为例,利用该方法准确快速地计算了其工作于2GHz的雷达散射截面,该问题需很大内存,基于PC集群的并行FDTD无法处理.     

基于深度卷积神经网络的跨年龄人脸识别

提出了一种应用于跨年龄人脸识别的联合学习方法,该方法由深度卷积神经网络构建而成,能在特征学习的同时学习到最优的测度函数,从而避免不合适的固定阈值所带来的匹配错误.针对有限的内存、过拟合和计算复杂性高的问题,在模型训练过程中采用了多种新颖和有效的训练策略.实验证实了该联合学习方法的有效性,在公开数据库MORPH-II上的识别正确率达到了93.6％.     

面向互联网用户行为分析的加权概率融合贝叶斯网络研究

针对依靠单一算法训练互联网用户行为数据构建的贝叶斯网络(Bayesian Network, BN)计算耗时长、结构不稳定等问题，提出加权概率融合并行贝叶斯网络增量学习(WPFPBayes)算法。该算法根据自适应数据切片算法找出最优数据片尺寸，快速进行并行BN模型训练；将数据切片上学习得到的若干子BN结构通过融合加权概率方法合并成一个全局BN模型；通过一种增量评分函数定量表示单位时间内网络模型与数据之间适应程度的变化情况；采用依据特定结点进行BN更新的措施达到新旧数据在网络中的平衡。仿真实验结果表明：WPFPBayes算法下得出的BN模型的效率及其准确率均高于其他常见算法；随着数据量的增加，BN模型数据表达的准确率和稳定性均得到提高，可以更有效检测网络用户的异常行为。