人工神经网络在多处理器系统上并行实现的通信开销

本文将讨论在多处理器系统上,用大规模并行处理技术实现人工神经网络时,处理器是通信开销问题。通过理论推导和实验证明,全连接和随机连接神经网络在多处理器系统上并行实现时,处理器网络的拓扑结构对神经网络实现的通信开销影响很小,改变处理器的拓扑结构也无助于神经网络实现性能的提高。     

一种减少弦振荡问题并行通信开销的方案

在并行计算的消息传递编程中,由于处理器间的通信将花费大量的时间,因此减少通信开销变得非常关键。基于这一点,注意到网络传输中存在大量小消息的特点,文章采用数据合并的思想,提出了一种减少弦振荡问题并行程序设计通信开销的方案,推导出一个使用性能达到最佳的公式,并对其进行了实验,得出的实验结果表明这种方案能够有效地减少并行计算中的通信开销．而且这种方案也能应用于一些其它的并行计算问题中。     

PLUFS: 一种开销敏感的周期任务在线多处理器节能实时调度算法

现有周期任务多处理器节能调度算法虽然在考虑处理器实际开销情况下可以实现较好的节能效果,但仍不能保证最优可调度性.针对嵌入式实时系统中不可忽视的状态切换开销,提出一种开销敏感的周期任务在线多处理器节能实时调度算法PLUFS.该算法通过TL面流调度模型与处理器实际切换开销模型相结合,在每个TL面的初始时刻、任务结束执行时刻实现节能调度,在不违反周期任务集最优可调度性的前提下,达到实时约束与能耗节余的合理折中.经过理论证明和模拟实验,结果表明：PLUFS算法不仅保证了周期任务集的最优可调度性,而且节能效果整体优于现有算法,能耗节余比现有算法提高约10%～20%.     

网络并行计算环境中网络通信开销的分析与测试

网络通信开销是影响网络并行计算的重要原因，但精确定量分析网络通信销中各个组成部分的报道不多。本文利用精度可达０．１微秒的计时工具，定量地分析了以太网中广泛使用的ＮｅｔＷａｒｅ网络操作系统的网络层／传输层通信协议ＩＰＸ／ＳＰＸ与ＮｅｔＢＩＯＳ仿真会话层通信协议的性能，研究了网络通信销的主要因素，从而找出提高网络通信性能的途径。     

双端口RAM在多处理器系统的应用研究

作者依据信号处理的任务的特点,采用模块化设计方法,实现了一个由１４片处理器构成的多处理器系统＾「１」。本文着重论述用多端口ＳＲＡＭ进行该系统数据共享机制 的设计。     

非模块型人工神经网络并行实现的研究

本文对两种非模块型神经网络－全连接和随机连接神经网络在多处理器网络上并行实现的性能进行了分析,指出处理器网络的拓扑结构和结点的扇玫对这两种神经网络的并行实现的性能影响不大,并对神经知多处理并行实现时一个学习周期时间进行了分析,讨论了并行实现的最大加速比和最优处理器规模的计算。     

基于最低开销模型的传感网络通信优化仿真

当传感网络中某条链路发生变化时,需要重新计算最短路径树,一旦传感网络规模较大,传统的算法采用抑制链路改变的方法提高传感网络通信容量,但这大幅抑制通信节点周期内路径选择灵活性,通信延迟明显.提出一种改进的A-OSPF算法并应用到传感网络通信优化中,该算法在原始的OSPF基础上融人了最低开销节点机制,增强了传感网络中节点构建的概率,考虑了节点移动性,将更加平稳的链路当成节点,按照链路代价原理得到源节点到目标节点的最佳路径,确保数据包可在链路质量最高的路径上进行传递,降低传感网络数据传送的平均端到端延时.仿真结果表明改进算法在传感网络生存周期以及平均端到端延时方法优于原始的OSPF算法,实现了延长传感网络生存周期以及能量均衡的目标.     

联邦学习通信开销研究综述

为了解决数据共享需求与隐私保护要求之间不可调和的矛盾,联邦学习应运而生.联邦学习作为一种分布式机器学习,其中的参与方与中央服务器之间需要不断交换大量模型参数,而这造成了较大通信开销;同时,联邦学习越来越多地部署在通信带宽有限、电量有限的移动设备上,而有限的网络带宽和激增的客户端数量会使通信瓶颈加剧.针对联邦学习的通信瓶...     

并行分布式计算机系统与网络的内在联系分析

分布处理结构在计算机内部从单处理器到多处理器发展,以后逐步向多机系统和计算机网络系统发展,但此时计算机网络的分布处理能力已经有一些重要的本质性变化和发展,具有不同的结构特点和应用环境.文章对并行分布式计算机系统与网络的内在联系进行了详细分析和探讨.     

人工神经网络的并行分布处理

神经元的映射分配是人工神经网络虚拟实现中的重要研究课题。本文系统地分析了人工神经网络的重要性质－并行分布处理，并对映射分配问题中的两个关键性概念－负载均衡和通信开销进行了深入讨论。以此为基础，提出了一系列映射算法，并对算法性能进行了分析。其中，吸收算法最大程度地开发了人工神经网络固有的并行性，是一个实时的算法。     

神经网络运算的并行性及并行计算机

本文首先分析了神经网络计算中存在的本质上的并行性，进而介绍了并行处理机的种类，指出MIMD类的并行处理系统较适合神经网络的计算。     

一种分布式计算环境下并行应用的调度算法

在网络上运行并行程序不像在并行机上那样可靠,因此对于关键应用需要在应用级保证消息传输的可靠性.人们对以异步方式进行通信的并行程序的调度问题提出了大量的启发式算法,但是它们所产生的调度结果不能用于以同步方式通信的并行程序.提出的PRGSC算法可以防止由同步通信所引起的死锁问题,而且可以降低同步通信所带来的时延的影响.形式化地证明了死锁检测算法的正确性,并通过仿真实验说明了PRGSC算法有很好的调度质量.     

四种多总线多处理机系统性能的比较

文献[1]得到了p×m×b系统处理效率(PE)的闭合形式。作者在[2]中曾利用[1]的结果,对一种分布式公用存贮器型多总线多处理机系统提出了PE的迭代计算方法。本文将这种思想推广应用于另外两种分布式公用存贮器型多总线多处理机系统,文中分析了全局总线数目b和任务粒度ρ对PE的影响,给出了b的取值范围。并对在不同b和ρ下,上述四种系统的性能做了比较。     

NPSC神经网络并行仿真计算机

本文介绍一种新研制成功的NPSC神经网络并行仿真机的结构特点,系统软件,性能测试结果及一些仿真算例。     

Data token heuristic scheduling of the Kalman algorithm onto a message-passing multiprocessor system

Scheduling the tasks of a parallel algorithm onto a network of processors to minimize the completion time of the task graph is an NP-hard problem, and heuristic methods are commonly used to solve this problem. Published works in this area, however, do not take advantage of the following aspects of the problem: (i) the availability of the full knowledge of the data that is being transferred during inter-task communication, and (ii) the availability of full duplex high-speed communication links in many multiprocessors (such as transputers). The scheduling approach presented in this paper, the data token heuristic (DTH) approach, exploits the above features, leading to a reduced schedule length. This is achieved by checking the pool of data tokens in the processors, and routing the required data token to the processor through the dynamic shortest path. The DTH approach is then used to find the best transputer network topology that gives the minimum schedule length for the parallel implementation of the Kalman algorithm. Quantitative results of scheduling the Kalman algorithm on a 4-transputer network with T-805 transputers are presented.     

大规模并行处理系统互连通信的新技术研究

本文综述了大规模并行处理系统研究了工作的概况，指出其研究热点和关键技术是实现高效的互连通信。文中重点介绍了该领域的研究内容：结点结构、网络接口、切换技术，拓扑结构，路由算法，通信机制，通信协议，计算模型等。