基于分布式数据集的并行计算框架内存优化方法

随着科学计算和人工智能技术的快速发展,分布式环境下的并行计算已成为解决大规模理论计算和数据处理问题的重要手段。内存容量的提高以及迭代算法的广泛应用,使得以Spark为代表的内存计算技术愈发成熟。但是,当前主流的分布式内存模型和计算框架难以兼顾易用性和计算性能,并且在数据格式定义、内存分配、内存使用效率等方面存在不足。提出一种基于分布式数据集的并行计算方法,分别从模型理论和系统开销两个角度对内存计算进行优化。在理论上,通过对计算过程进行建模分析,以解决Spark在科学计算环境下表达能力不足的问题,同时给出计算框架的开销模型,为后续性能优化提供支持。在系统上,提出一种框架级的内存优化方法,该方法主要包括对跨语言分布式内存数据集的重构、分布式共享内存的管理、消息传递过程的优化等模块。实验结果表明,基于该优化方法实现的并行计算框架可以显著提升数据集的内存分配效率,减少序列化/反序列化开销,缓解内存占用压力,应用测试的执行时间相比Spark减少了69%～92%。     

一种基于移动Agent的分布式并行计算模型

针对传统的分布式并行计算方案所存在的缺点,提出了一种基于移动Agent技术的分布式并行计算模型.在简单介绍移动Agent技术后,给出了基于移动Agent的分布式并行计算模型,并详细叙述了该模型的具体工作过程和实现方案.模型没计完成后,用此模型来解决计算量很大的数值计算问题.首先利用数学工具分析设计出该问题的适合于分布式并行计算的方案,然后依照模型实现实验程序.实验测试表明根据该模型实现的分布式并行计算程序具有较高的加速比和并行效率,并有效地提高了分布式并行计算的稳定性、灵活性、可扩展性和移动性.     

一种基于移动Agent的分布式并行计算模型

针对传统的分布式并行计算方案所存在的缺点,提出了一种基于移动Agent技术的分布式并行计算模型。在简单介绍移动Agent技术后,给出了基于移动Agent的分布式并行计算模型,并详细叙述了该模型的具体工作过程和实现方案。模型设计完成后,用此模型来解决计算量很大的数值计算问题。首先利用数学工具分析设计出该问题的适合于分布式并行计算的方案,然后依照模型实现实验程序。实验测试表明根据该模型实现的分布式并行计算程序具有较高的加速比和并行效率,并有效地提高了分布式并行计算的稳定性、灵活性、可扩展性和移动性。     

面向对象有限元并行计算框架PANDA

为提高我国工程数值模拟软件的开发能力,面向武器工程大规模并行计算需求,基于层次化、模块化及面向对象的现代软件设计技术,分析探讨有限元并行计算框架的设计方法,形成初步的基础开发框架PANDA 0.1版;详细描述PANDA框架的层次结构设计,并探讨该基础开发框架设计中的底层网格数据结构设计、有限元共性管理模块及并行策略等部分关键技术;简要介绍PANDA框架的扩展应用方法.研究表明：采用框架技术进行结构力学有限元程序开发,具有高效、快速和便捷等优点.     

一种基于.NET Remoting的分布式并行计算框架

.NET Remoting是一种优秀的分布式应用开发技术，本文在介绍其体系结构的基础上。提出了一种基于．NET Remoting的分布式并行计算框架，它具有结构简单、易于扩展到具体应用问题等特点，对分布式并行应用开发有很好的参考价值。     

使用Map/Reduce进行并行计算

对于分布式计算来说，异步计算才只是刚刚开始，一个现实的问题在于，即便我们将一个耗时的计算从Web服务进程中剥离并转移到其他的服务器上，但这仅仅是转移，并不能减少它的计算时间，而这个任务可能恰恰是我们需要快速得到结果的，这该怎么办呢？     

基于分布式对象的并行计算框架

在为工作站机群构造并行软件的过程中,计算特征和组成特征非常重要.但是,由于缺乏有效的支撑环境,当今的分布式并行计算软件系统效率低下,这在计算特征方面尤为明显.提出一个基于分布式对象的并行计算框架,目的在于保证高效的并行计算开发,提供封装和复用并行程序的机制,并保证系统的动态平衡和容错性.框架是4层模型,包括对象组层和移动对象层.实验结果证明了方案的有效性.     

面向对象有限元并行计算框架PANDA的应用模板

为解决面向对象有限元软件框架PANDA的应用问题,降低使用PANDA框架进行并行应用程序开发的难度,提高软件开发的重用性,从PANDA的框架设计、PANDA的应用模板和应用测试等3方面介绍针对不同物理问题的程序建立机制,即PANDA框架的使用方法--应用模板方法.PANDA框架的开发目前处于初始阶段,为提高其易用性仍需...     

面向对象有限元并行计算框架PANDA的并行机制

为实现面向对象有限元并行计算框架PANDA对高性能计算的支持,分别从并行计算流程、区域分解、分区信息和通信封装等部分设计PANDA框架在并行计算方面的数据结构.在计算流程中建立区域分解和并行求解器的配合协作方式,进而描述进行区域分割的3种网格剖分方法;对分区边界单元和节点信息的组织以及对并行通信操作的封装使复杂的并行通...     

JASMIN框架中联邦并行计算及其在多物理耦合中的应用

多物理耦合是一类普遍的复杂应用问题。并行计算时,在充分考虑各个物理过程的基础上,还需要在不同物理过程之间建立数据依赖关系并交换物理量值。这无论对并行算法设计,还是对并行编程实现来说,均具有较大的难度。JASMIN框架提供联邦计算功能,很好地封装和实现了单层结构网格上的多物理耦合并行计算。该功能实际应用于激光聚变和地球系统模式等领域,支撑研发了多个应用程序,可以有效使用成千上万个处理器核进行数值模拟。     

A Parallel Particle Tracking Framework for Applications in Scientific Computing

Particle tracking methods are a versatile computational technique central to the simulation of a wide range of scientific applications. In this paper, we present a new parallel particle tracking framework for the applications of scientific computing. The framework includes the in-element particle tracking method, which is based on the assumption that particle trajectories are computed by problem data localized to individual elements, as well as the dynamic partitioning of particle-mesh computational systems. The ultimate goal of this research is to develop a parallel in-element particle tracking framework capable of interfacing with a different order of accuracy of ordinary differential equation (ODE) solver. The parallel efficiency of such particle-mesh systems depends on the partitioning of both the mesh elements and the particles; this distribution can change dramatically because of movement of the particles and adaptive refinement of the mesh. To address this problem we introduce a combined load function that is a function of both the particle and mesh element distributions. We present experimental results that detail the performance of this parallel load balancing approach for a three-dimensional particle-mesh test problem on an unstructured, adaptive mesh, and demonstrate the ability of interfacing with different ODE solvers.     

Distributed Parallel Computing Using Navigational Programming

Message Passing (MP) and Distributed Shared Memory (DSM) are the two most common approaches to distributed parallel computing. MP is difficult to use, whereas DSM is not scalable. Performance scalability and ease of programming can be achieved at the same time by using navigational programming (NavP). This approach combines the advantages of MP and DSM, and it balances convenience and flexibility. Similar to MP, NavP suggests to its programmers the principle of pivot-computes and hence is efficient and scalable. Like DSM, NavP supports incremental parallelization and shared variable programming and is therefore easy to use. The implementation and performance analysis of real-world algorithms, namely parallel Jacobi iteration and parallel Cholesky factorization, presented in this paper supports the claim that the NavP approach is better suited for general-purpose parallel distributed programming than either MP or DSM.     

结构动力数值仿真两级并行计算系统开发及应用

根据分布式存储并行计算机的体系结构特点,设计了一个结构动力数值仿真两级并行计算系统.首先通过两级分区为并行计算准备数据,并将数据分布式存储在各节点的局部存储器上;在结构动力分析过程中,通过进一步缩减问题规模和有效地提高通信效率大幅度减少了界面方程求解时间以及系统求解总时间.文中详细阐述了该系统工作原理、并行计算流程和系统实现的相关软件开发工具.最后通过典型数值算例验证了该系统的有效性.     

网格计算环境下分布并行计算的一种实现方法

网格计算为人们处理很多复杂问题提供了新方法。文章利用GlobusToolkit来构建网格计算环境,并把它扩展为分布并行计算的支撑环境,为实现分布并行计算提供了新方法。讨论了任务分布、系统通信和容错机制等关键问题。最后给出了基于网格计算环境下的一个分布并行计算实例,取得了令人满意的实验结果。     

Object Clustering for High Performance Parallel Computing

In this article we present a new parallel programming environment, called distributed object-oriented virtual computing environment (DOVE), for clustered computers based on distributed object model. In DOVE, a parallel program is built as a collection of concurrent objects each of which has its own computing power and which interacts with one another by remote method invocation. The parallelism is encapsulated within distributed objects, which can be handled the same way as local objects. The main goal of DOVE is to provide users with an easy-to-use transparent parallel programming environment while supporting efficient parallelism encapsulated and distributed among objects. For the experiment and evaluation of DOVE, two parallel application programs have been developed both on DOVE and PVM.     

基于Java的分布式并行计算关键技术

本文首先概述了 Java技术的引入对分布式并行计算技术的影响 ,然后就工作机群的组织、问题分布、系统内通信、容错机制等四个关键问题进行讨论 ,分析常见的问题和各种解决方案 ,最后对基于 Java的分布式并行计算的进一步发展前景作简要描述     

Linux环境下的并行计算

进行大规模科学计算的常用手段是并行计算。从性能和费用等方面考虑,在支持网络并行计算的操作系统中优先选择的系统应是Linux。本文介绍了LINUX环境下的一些并行计算软件,讨论了分布式并行计算的一些概念和需要解决的一些问题。     

基于网格计算技术的电力系统分布式并行计算——底层平台设计与实现

文章提出了基于网格计算来实现电力系统分布式并行计算的方案。主要涉及计算池(ComputingPool)的设计、资源的管理与动态分配,以及图论分割和稀疏数值计算库的设计和实现等。文章首先介绍了网格计算应用于电力系统分布式并行计算的概念,在此基础上,分析了基于GlobusR网格计算开发平台实现的以上功能模块。最后对测试平台和测试结果进行了简要的介绍。