深度学习编译器模型训练负载均衡优化方法

对于计算密集型的人工智能（AI）训练应用，其计算图网络结构更加复杂，数据加载、计算图的任务划分以及任务调度的负载均衡性都会成为影响计算性能的关键因素。为了使深度学习编译器中模型训练应用的任务调度达到负载均衡的状态，提出了三种计算图负载均衡优化方法：第一，通过自动建立数据加载与模型训练的高效流水实现中央处理器和后端计算设备的负载均衡，提高了系统整体能效；第二，通过计算图的分层优化技术，实现计算图在后端设备执行调度时的负载均衡；最后，通过自动建立层间的高效流水提高后端设备的资源利用率。实验结果表明，计算图负载均衡优化方法实现了训练任务到底层硬件设备自动映射过程中系统的负载均衡，与Tensorflow、nGraph等传统的深度学习框架和编译器相比，在不同模型训练中通过任务调度负载均衡优化技术分别获得了2%～10%的性能提升，同时能够使系统整体的能耗降低10%以上。     

物联网节点负载均衡优化调度方法研究

针对物联网节点负载均衡调度方法存在资源节点浪费的问题,笔者提出物联网节点负载均衡优化调度方法。通过建立物联网节点负载均衡优化调度模型,实现了分层路由网关节点数目匹配与网关调度任务节点重组,对重组后节点进行网络负载均衡匹配,可以完成物联网节点负载均衡优化调度。根据仿真实验,对比优化调度方法与其他调度方法的负载均衡离差值,证明了优化调度方法能够更好地实现物联网节点负载均衡优化调度。     

高可用性校园网资源子系统的设计与实现

本文对常用的几种负载均衡技术进行了比较和分析，设计和实现了一种基于集群负载均衡技术的高可用性校园网资源子系统模型。     

一种基于预测的动态负载均衡模型及算法研究

提出了一种基于负载预测的动态负载均衡方法，它改变了一般动态负载均衡方法负载信息采集过时的情况，有效解决了负载迁移的抖动问题，提高了平衡系统的性能。给出了该方法的实现模型、算法，并进行了性能分析，最后给出了实验结果。     

异构分布式环境下DNS动态负载均衡模型研究

DNS负载均衡是服务器群集负载均衡策略的典型应用方案之一。分析了目前DNS负载均衡的现状和异构分布式系统的特征,提出一种自适应生存期的动态调度负载均衡模型,并且描述了该模型的实现策略。     

中间件负载均衡的模型和实现

由于客户机访问服务器的随机性,中间件服务器负载不均衡的现象时有发生,所以负载均衡是提高三层系统效率的重要手段。文中介绍了中间件负载均衡的原理,提出了两种中间件负载均衡的实现模型,并且评价了这两种模型的性能,指出了各自的优越点与适用范围,最后给出了基于COM 的的实现方法与关键技术。     

中间件负载均衡的模型和实现

由于客户机访问服务器的随机性,中间件服务器负载不均衡的现象时有发生,所以负载均衡是提高三层系统效率的重要手段.文中介绍了中间件负载均衡的原理,提出了两种中间件负载均衡的实现模型,并且评价了这两种模型的性能,指出了各自的优越点与适用范围,最后给出了基于COM+的的实现方法与关键技术.     

基于极值优化的多核集群负载均衡

针对分布式多核节点系统的负载均衡难以取得最优解的问题,提出了一种基于改进极值优化的负载均衡方法.该方法通过节点的CPU占用率发现负载不均衡情况,然后用一个衡量模型估计计算与通信开销使改进的极值优化方法能够实现集群的负载均衡.仿真与实验结果表明该算法能够提高分布式集群的计算效率,是一种理想的负载均衡算法.     

基于Java RMI技术的中间应用服务器动态负载均衡模型的实现

简要介绍了Java技术中RMI机制的工作原理,讨论了三层客户机／服务器模型的原理,提出了中间应用服务器动态负载均衡的实现模型,给出了采用RMI机制实现中间应用服务器的动态负载均衡模型的实现算法。     

服务器负载均衡的应用与实现

讨论了服务器的性能问题，介绍了多台服务器负载均衡的概念和重要性，并详细阐述了多台服务器负载均衡的原理。以一个呼叫中心案例为例描述了多台服务器实现负载均衡的方法。通过多台服务器的负载均衡，提高了应用系统的性能及容错能力，增强了应用系统的稳定性和可靠性。     

大规模文件上传接收服务的负载均衡引擎研究

针对大规模网络环境下的文件上传接收服务系统的需求,设计了一个集群架构的文件接收服务系统,采用多台接收服务器来实现文件接收服务,提高了系统的稳定性和可用性。根据文件传输的特点,综合考虑文件流量负载情况和服务器当前负载情况,提出了一个综合负载统计的负载均衡算法,测试结果表明基于该算法的文件接收集群系统具有较好的负载均衡效果。设计并实现了文件上传接收服务系统的负载均衡引擎,解决了系统的负载失衡问题,提高了系统的运行效率。     

一种有效的并行入侵检测系统流量分配策略

流量分配是影响并行入侵检测系统实时性的重要因素。首先提出了一种以局部时间内探测节点的负载平衡为目标,综合考虑探测节点的负载和处理能力的动态流量分配策略;然后通过引入负载平衡的粒度、益处估计,提出了一种动态负载平衡策略,达到了全局时间内探测节点的负载平衡;最后通过实验分析表明该策略是有效的。     

并行分组交换中负载平衡充要条件的分析

负载平衡是并行分组交换(PPS-parallelpacketswitch)结构的一项关键技术,该文对带缓存PPS结构中负载平衡的充要条件进行了研究。首先基于守恒原理建立流体并行交换的流量守恒方程,并分析流体并行交换中负载平衡的充要条件,在此基础上建立PPS的流量守恒方程,并定义PPS负载平衡,分析PPS负载平衡算法应该满足的充要条件。     

A predictive and probabilistic load-balancing algorithm for cluster-based web servers

The exponential demands for high performance web servers led to use of cluster-based web servers. This increasing trend continues as dynamic contents are changing traditional web environments. Increasing utilization of cluster web servers through effective and fair load balancing is a crucial task specifically when it comes to advent of dynamic contents and database-driven applications on the internet. The proposed load-balancing algorithm classifies requests into different classes. The algorithm dynamically selects a request from a class and assigns the request to a server. For both the scheduling and dispatching, new probabilistic algorithms are proposed. To avoid using unreliable measured utilization in the face of fluctuating loads the proposed load-balancing algorithm benefits from a queuing model to predict the utilization of each server. We also used a control loop feedback to adjust the predicted values periodically based on soft computing techniques. The implementation results, using standard benchmarks confirms the effectiveness of proposed load-balancing algorithm. The algorithm significantly improves both the throughput and mean response time in contrast to two existing load-balancing algorithms.     

一种基于中间件的自适应动态负载平衡方法

负载平衡是提高分布式系统性能不可缺少的技术,同时也是系统高可用性、可扩展性、容错性的必然要求。该文在分析和研究负载平衡模型的基础上,提出了一种基于消息队列的负载平衡模型,并在此模型下改进了基于阈值的动态负载平衡算法,给出了一种自适应的动态负载平衡算法。最后,在J2EE平台下,进行了实验和性能比较。     

面向异构集群系统的动态负载均衡技术研究

在集群系统中的一个非常重要的问题就是尽量确保负载的均衡.由于目前的负载均衡算法大多针对同构的集群系统,没有很好的扩展性.研究了异构集群系统,提出了一种异构服务器集群的动态负载均衡算法,并取得了较好的效果,特别是在负载较重的时候.     

基于遗传算法的服务器端负载均衡系统的设计

在IP负载均衡的方式下,将并行分布式系统中广泛使用的遗传算法应用到服务器端负载均衡系统的设计中,并针对系统的实现对遗传算法作了适当改进,降低了服务器端请求的响应时间,提高了服务器端CPU的利用率,从而改善了系统性能。     

并行分组交换中基于分路的分布式负载平衡技术

负载平衡是并行分组交换的一项关键技术,目前已知在高速率查表后应用负载平衡技术可取得良好效果,但在OC768（40Gbps）甚至OC3072（160Gps）下进行包处理工作是很困难的．基于分路包处理和分路负载平衡的思想,提出一种基于分路的分布式负载平衡控制结构和DDPA算法,依据工程设计考虑,还提出基于丢包策略的DDPA算法,对它们的有效性做出证明并定量地计算出其关键参数．     

基于贪心策略的多结点并行光线跟踪负载均衡算法

为了提高利用光线跟踪集群绘制生成高分辨率复杂场景画面的并行度,提出基于 贪心策略的多结点并行光线跟踪负载均衡算法。首先根据 GPU 的并行特性将屏幕空间划分成若 干正方形图像块,并基于移动物体球形包围体在屏幕空间的投影构建二值绘制时间影响度图。 然后依据时空相关性利用上一帧图像块耗时和二值绘制时间影响度图建立渲染任务队列,通过 两步负载均衡实现多渲染结点任务的动态分配。最后进行了实验验证和分析,结果表明该方法 具有良好的负载均衡效果,在 5 个渲染结点的绘制效率最高能提升 4.96 倍。     

Load-Balanced Sparse Matrix–Vector Multiplication on Parallel Computers

We considered the load-balanced multiplication of a large sparse matrix with a large sequence of vectors on parallel computers. We propose a method that combines fast load-balancing with efficient message-passing techniques to alleviate computational and inter-node communications challenges. The performance of the proposed method was evaluated on benchmark as well as on synthetically generated matrices and compared with the current work. It is shown that, by using our approach, a tangible improvement over prior work can be obtained, particularly for very sparse and skewed matrices. Moreover, it is also shown that I/O overhead for this problem can be efficiently amortized through I/O latency hiding and overall load-balancing.