多核处理器并行计算模型研究

针对并行计算机体系结构中没有通用的计算模型这一问题,分析了一些现有的典型计算模型,在同步性、通信方式、参数方面进行比较,以LogGP模型为基础提出一种改进的mzLogGP模型。利用MPI并行算法对满足节点计算资源非独占、网络存在拥塞条件下的并行程序进行分析与测试,通过增加memory层次化层数和网络拥塞指数这两个参数,计算其计算开销和通信开销,将实测时间与预测时间进行比较,可知随节点数的增加系统误差不断减小,说明该新模型能改善并行应用在多核处理器集群平台上运行的性能,具有较好的可扩展性。     

无线传感器网络中一种ARMA流量预测的拥塞控制算法

在无线传感器网络中,由于各节点的通信能力、计算能力、存储能力等都比较有限,使其需采取有别于传统网络的拥塞控制策略.本文针对传感网络特有的多对一、多跳通信方式经常导致网络拥塞的缺陷,提出一种基于流量预测的拥塞避免算法(SCATP).该算法通过ARMA模型分析流经各节点的当前流量,预测网络下一时刻的拥塞状况,并据此进行流量分配,从而实现拥塞控制的同时保证数据的可靠传输.仿真实验表明,SCATP算法在延迟、抖动率、吞吐量和能量有效性等方面能有效改善网络的服务质量.     

面向通用一致性优化的通信高效的异步ADMM算法

分布式交替方向乘子法(Alternating Direction Method of Multipliers, ADMM)是求解大规模机器学习问题使用最广泛的方法之一。现有大多数分布式ADMM算法都基于完整的模型更新。随着系统规模及数据量的不断增长,节点间的通信开销逐渐成为限制分布式ADMM算法发展的瓶颈。为了减少节点间通信开销,提出了一种通信高效的通用一致性异步分布式ADMM算法(General Form Consensus Asynchronous Distributed ADMM,GFC-ADADMM),该算法通过分析高维稀疏数据集的特性,节点间利用关联模型参数代替完整模型参数进行通信,并对模型参数进行过滤以进一步减少节点间传输负载。同时结合过时同步并行(Stale Synchronous Parallel, SSP)计算模型、allreude通信模型及混合编程模型的优势,利用异步allreduce框架并基于MPI/OpenMP混合编程模型实现GFC-ADADMM算法,提高算法计算与通信效率。文中利用GFC-ADADMM算法求解稀疏logistic回归问题,实验测试表明,与现有分...     

面向深度学习图像分类的GPU并行方法研究

针对深度学习图像分类场景中多GPU并行后传输效率低的问题,提出一种低时间复杂度的Ring All Reduce改进算法。通过分节点间隔配对原则优化数据传输流程,缓解传统参数服务器并行结构的带宽损耗。基于数据并行难以支撑大规模网络参数及加速延缓的问题,根据深度学习主干网络所包含的权重参数低于全连接层权重参数、同步开销小、全连接层权重大与梯度传输开销过高等特点,提出GPU混合并行优化算法,将主干网络进行数据并行,全连接层进行模型并行,并通过改进的Ring All Reduce算法实现各节点之间的并行后数据通信,用于基于深度学习模型的图像分类。在Cifar10和mini ImageNet两个公共数据集上的实验结果表明,该算法在保持分类精度不变的情况下可以获得更好的加速效果,相比数据并行方法,可达到近45%的提升效果。     

面向大数据复杂应用的GPU协同计算模型

大数据计算中存在流计算、内存计算、批计算和图计算等不同模式,各种计算模式有不同的访存、通信和资源利用等特征。GPU异构集群在大数据分析处理中得到广泛应用,然而缺少研究GPU异构集群在大数据分析中的计算模型。多核CPU与GPU协同计算时不仅增加了计算资源的密度,而且提高节点间和节点内的通信复杂度。为了从理论上研究GPU与多核CPU协同计算问题,面向多种计算模式建立一个多阶段的协同计算模型（p-DCOT）。p-DCOT以BSP大同步并行模型为核心,将协同计算过程分成数据层、计算层和通信层三个层次,并且延用DOT模型的矩阵来形式化描述计算和通信行为。通过扩展p-DOT模型描述节点内和节点间的协同计算行为,细化了负载均衡的参数并证明时间成本函数,最后用典型计算作业验证模型及参数分析的有效性。该协同计算模型可成为揭示大数据分析处理中协同计算行为的工具。     

并行遗传算法在非均衡负载节点并行机上的实现

基于平衡负载、减小通信开销的考虑,对于非均衡负载节点并行机提出了两种并行遗传算法一动态负载平衡的孤岛模型和主从模型,并与基本的孤岛模型做了比较。两种算法在实际使用中均取得了较好的效果。     

产出率并行加速比模型

针对并行计算系统的性能度量问题,在产出率度量模型的基础上,建立综合系统可靠性、通信、并行化控制和成本投入要素的产出率并行加速比模型,分析总结模型中各要素影响产出率并行加速比的关键因子,包括容错开销因子、通信开销因子、并行控制开销因子及成本开销因子,对上述关键因子进行模拟实验,以验证该模型的有效性。     

基于链路信息的卫星网络最优路径选择策略

分层卫星网络路由协议在通信时比单层卫星网络有更好的表现,但是同样有着一些缺点。快照的频繁切换导致计算开销大、链路拥塞和节点失效时处理能力较差。针对LEO/MEO卫星网络的特点,提出了一种新的路由协议。计算相邻卫星间的实际通信开销,和预估可选卫星到目的卫星间的通信开销,在保证一定链路利用率和低延时的情况下,选择一条最优路径。当链路切换或节点失效时,缩小路径搜索区域,无需重新计算源卫星节点到目的卫星节点路径,只更新部分失效节点,减少计算开销。通过仿真发现,该算法在路径建立以及链路拥塞等方面具有良好的性能。     

WKBZ简正波模型混合并行计算方法研究

针对水声传播模型的计算量大,难以满足实时化、精细化水下声传播信息保障需求的难题,基于MPI+OpenMP混合并行编程方法,开展了WKBZ简正波模型混合并行计算方法研究,实现了水下声场2级混合并行计算。该方法通过节点间消息传递、节点内内存共享的方式,有效克服了MPI并行编程模型通信开销大和OpenMP并行编程环境可扩展性差的缺点,较好地解决了水下声传播快速计算的问题。测试结果表明,该方法能够较好地利用SMP集群节点间和节点内多级并行机制,充分发挥消息传递编程模型和共享内存编程模型各自的优势,大幅降低MPI进程间通信带来的时间开销,有效提升程序的可扩展性和并行效率。     

大规模Ad hoc网络中一种高效的组密钥协商协议

移动Ad hoc网络自身的特点决定了该网络中节点资源的有限性,所以在移动Ad hoc网络中构建组密钥协商协议时,应尽量减少节点的资源开销。为了解决这个问题,提出了一种基于分簇-K叉树组模型结构的组密钥协商协议——CKT-ECC协议。该协议在分簇-K叉树组模型结构上,采用椭圆曲线密码体制实施密钥协商和分配,使得节点在密钥协商过程中具有低计算开销和低通信开销的优势。与GDH、TGDH组密钥协商协议相比,本协议有效地降低了节点在密钥协商过程中的计算开销和通信开销,适用于大规模移动Ad hoc网络。     

神经网络预测Ad hoc节点流量的路由协议

提出了一种基于神经网络预测模型对网络流量负载进行预测的负载均衡协议NNP-LBRP（Load-Balanced Routing Protocol based on Neural Network Prediction model）,该协议利用RBF神经网络预测模型对Ad hoc网络中的节点流量负载进行预测,根据预测到的下一时刻的流量负载状况,在节点出现拥塞之前提前更换路径,避免中间节点出现拥塞,以此来提高网络的性能。协议中的流量值是以MAC层接口队列长度来衡量,负载均衡中的负载是流量负载。另外,协议在目的节点处采用了延迟应答策略,即在多路径中选择负载最轻的路径应答,对改善网络的性能也有一定作用。仿真结果与AODV路由协议进行比较,数据包投递率提高了约10%;平均端到端延时平均降低了27%;网络开销平均降低了26%。     

一种用于源位置保护的幻影路由设计

针对传感器网络中源节点位置信息保护问题,提出基于随机游走的多幻影节点路由协议（Multi Phantom node Routing Protocol,MPRP）。MPRP引入可视区,限制节点随机游走盲目性,节省了通讯开销;在配置阶段,通过选择可视区以外的节点作为幻影节点,以保证源节点、汇聚节点、幻影节点不在同一条直线上;路由选择阶段,在多个备选幻影节点选取一个真正的幻影节点,用以迷惑网络攻击者。同时,MPRP给出了一种新的幻影节点选择方法,实现了更多的幻影节点个数,提高了幻影节点的质量。仿真结果表明,与已有的源位置保护方案相比,MPRP在降低通信开销的同时,延长了节点安全时间,提高了隐私保护性能。     

Emergence and disappearance of traffic congestion in weight-evolving networks

A weight-evolving traffic network model, which is based on Barrat–Barthelemy–Vespignani (BBV) model, is developed to study the spreading of traffic congestion in complex networks. In this model, edge weights of networks evolve according to the flow quantity, and then traffic flows can detour congested nodes. This paper simulates and analyzes the process of the emergence and spreading of congestion, which is triggered by adjusting of data generating speed and data sending ability of the network. A recover process of the network from congestion to normal state is also studied, since, in this model, nodes could resume from congestion when the traffic on the network is not busy. Results show that, if the time interval of network’s rush hour last longer than a certain threshold, the congested nodes cannot resume automatically.     

一种基于多项式的无线传感器网络密钥管理方案*

提出一种基于多项式的无线传感器网络密钥管理方案。基站通过计算节点秘密信息构成的多项式来生成网络的全局密钥,节点通过全局密钥可以认证网络中的合法节点。节点用全局密钥经过Diffie-Hellman密钥交换来生成与邻居节点之间唯一的会话密钥。该方案能够动态更新密钥,从而解决了由于节点被捕获所导致的信息泄露、密钥连通性下降和密钥更新通信开销大等问题。性能分析表明,该方案与现有的密钥预分配方案相比,具有更低的存储开销、通信开销、良好的扩展性和连通性。     

Scalable rank-mapping algorithm for an icosahedral grid system on the massive parallel computer with a 3-D torus network

In this paper, we develop a rank-mapping algorithm for an icosahedral grid system on a massive parallel computer with the 3-D torus network topology, specifically on the K computer. Our aim is to improve the weak scaling performance of the point-to-point communications for exchanging grid-point values between adjacent grid regions on a sphere. We formulate a new rank-mapping algorithm to reduce the maximum number of hops for the point-to-point communications. We evaluate both the new algorithm and the standard ones on the K computer, using the communication kernel of the Nonhydrostatic Icosahedral Atmospheric Model (NICAM), a global atmospheric model with an icosahedral grid system. We confirm that, unlike the standard algorithms, the new one achieves almost perfect performance in the weak scaling on the K computer, even for 10,240 nodes. Results of additional experiments imply that the high scalability of the new rank-mapping algorithm on the K computer is achieved by reducing network congestion in the links between adjacent nodes.     

一个适用于DTN网络的拥塞避免与解除方案

DTN(delay-tolerant network,延迟容忍网络)的网络特点及其采用的托管传输机制易造成网络受限资源(如缓存、带宽等)的耗尽,形成网络拥塞,导致网络性能的下降。传统TCP拥塞控制机制不适用于DTN网络。提出了一个全新的适用于DTN网络的拥塞避免与拥塞解除方案。拥塞避免根据在足够小的时间段内DTN链路的传输延迟和传输能力的确定性,建立DTN网络有向多径图,对数据发送速率、接收速率、带宽使用等链路负载分割与约束控制,尽可能地提高网络资源的利用率。拥塞解除在节点存储资源划分的基础上,通过节点内存储资源转换与节点间报文转移相结合的方法,解除DTN网络的拥塞状况。仿真结果显示,与其他DTN拥塞控制机制相比,所提方案具有良好的报文交付率、网络开销等网络性能。     

一种基于休眠调度的数据源拥塞控制方法

为了能够长期对监测区域进行持续的数据采集,无线传感网通常运行在休眠调度模式,这种模式使得网络的通信连通性处在动态变化之中,造成一种新的网络拥塞现象——数据源拥塞.这种拥塞问题会造成节点缓存区溢出,从而导致数据丢失,甚至造成节点不响应任何数据转发请求,该问题在传感器异构的无线传感网中表现得更为严重.许多典型的拥塞控制方法是令网络中的数据绕过拥塞节点进行传输,也有一些方法是对拥塞节点的通信速率进行控制,但是以上这些方法无法缓解数据源拥塞的影响.分析影响数据源拥塞的因素,建立了描述节点数据源拥塞概率的传送带模型,提出了一种以降低数据源拥塞概率为目的的节点休眠调度机制(district cooperation schedule, DCS).通过理论推导和实验分析,证明该模型可以较准确地预测数据源拥塞概率,同时DCS可以有效降低数据源拥塞现象的发生.     

通用拥塞控制及其在Linux内核中的实现

目前Internet上的拥塞控制采用以TCP为核心的基于窗口技术的端到端（end-to-end)控制方法,具有丢包、响应速度慢等缺陷,造成网络资源的极大浪费。文中提出的通用拥塞控制方法通过对拥塞的早期检测和在相邻节点间交换拥塞控制信息等方法,使网络能对拥塞做出快速响应,从而有效地克服了端到端拥塞控制方法的缺陷,实验结果表明,采用通用拥塞控制的网络在吞吐量和抖动等性能上均优于端到端拥塞控制。