一种动态的客户端负载均衡机制

互联网应用的并发用户数量不仅多变并且这种变化常常不可预测.将系统容量配置为固定值的惯用做法在面临多变的请求时常常会导致两种结果,一种是因为配置过低而引起用户的不满,另一种则因为配置过高而造成计算资源的浪费.而通过运用云架构按需提供、按使用收费的能力,系统具有了实时地按需配置计算资源的能力.然而静态的客户端负载均衡方法作为一种主要的负载均衡技术很难适应云架构条件下更加易变的集群结构.本文提出了一种动态的客户端负载均衡机制.通过引入分布式的集群视图更新、控制流等技术,该机制在保持客户端负载均衡机制分布式、可伸缩性强的基础上,又为集群节点的动态加入与退出和负载均衡策略的动态调整提供了有效的支持.同时,本文分析了该机制在一个开源JEE应用服务器PKUAS中的关键实现问题,并通过实验从多方面验证了该机制的有效性.     

一种自适应的网络代理集群负载均衡策略

现有动态负载均衡策略难以有效应用于任务资源需求特征动态多变、资源需求信息难以准确获取的网络代理集群中,为解决该问题,提出一种适用于网络代理集群的自适应负载均衡策略。该策略的负载模型可以随任务资源需求特征的变化自适应地调整,能够更准确地表征系统的负载状态和节点间的负载差异。实验结果表明,使用该自适应负载均衡策略的网络代理集群的平均响应时间比其他负载均衡策略低15%~20%。     

一种自适应的网络代理集群负载均衡策略

现有动态负载均衡策略难以有效应用于任务资源需求特征动态多变、资源需求信息难以准确获取的网络代理集群中,为解决该问题,提出一种适用于网络代理集群的自适应负载均衡策略。该策略的负载模型可以随任务资源需求特征的变化自适应地调整,能够更准确地表征系统的负载状态和节点问的负载差异。实验结果表明,使用该自适应负载均衡策略的网络代理集群的平均响应时间比其他负载均衡策略低15％～20％。     

弹性Web Cache集群的自适应负载均衡策略

在Web cache集群中,Web突发请求的频繁出现引发资源供给不足,造成系统性能显著下降.为有效处理Web突发请求,构建了同时使用本地资源和云资源的弹性Web cache集群.在弹性Web cache集群中,为提升系统性能,降低费用,提出一种自适应的负载模型.该模型可以动态自适应地调整,能够有效适用于异构Web cache集群.考虑到云结点的网络延迟,修正该模型得到云结点负载模型.基于以上负载模型,构造弹性Web cache集群的自适应负载均衡策略.与其他负载均衡策略相比较,使用该自适应负载均衡策略能够在弹性Web cache集群中实现高效的负载均衡.     

基于异构Flink集群的节点优先级调度策略

Flink流处理系统默认的任务调度策略在一定程度上忽略了集群异构和节点可用资源,导致集群整体负载不均衡。研究分布式节点的实时性能和集群作业环境,根据实际作业环境的异构分布情况,设计结合异构Flink集群的节点优先级调整方法,以基于Ganglia可扩展分布式集群资源监控系统的集群信息为依据,动态调整适应当前作业环境的节点优先级指数。基于此提出Flink节点动态自适应调度策略,通过实时监测节点的异构状况,并在任务执行过程中根据实时作业环境更新节点优先级指数,为系统任务找到最佳的执行节点完成任务分配。实验结果表明,相比于Flink默认的任务调度策略,基于节点优先级调整方法的自适应调度策略在WorldCount基准测试中的运行时间约平均减少6%,可使异构Flink集群在保持集群低延迟的同时,节点资源利用率和任务执行效率更高。     

在线多任务异构云服务器负载均衡算法研究

针对由于云服务器之间软件环境存在异构性及数据分布不均匀等特点而导致云服务器集群在处理大量任务时往往出现节点负载不均衡的情况,提出了解决在线多任务异构云服务器集群负载均衡的方法与相关算法。首先统计集群提供的各类服务的平均资源消耗,结合任务在服务器上已运行时长和资源占用情况,预测评估某一时刻服务器上任务剩余负载总量;然后按周期获取节点实际任务负载情况,及时修正任务负载情况;最后综合考虑节点各项性能,计算在待分配任务提交时刻各节点的预测负载评估值,并将任务分配给预测负载最轻的节点。实验结果表明,该算法具有可行性且在多任务异构云服务器集群负载均衡方面具有一定优势。     

基于节点能力的Hadoop集群任务自适应调度方法

针对当前Hadoop集群固有的任务级调度分配方法在运行中存在的负载分布不均的现象,着重对集群节点的执行能力进行了分析与研究.提出了一种基于节点能力的任务自适应调度分配方法.该方法根据节点历史和当前的负载状态,以节点性能、任务特征、节点失效率等作为节点任务量调度分配的依据,并使各节点能自适应地对运行的任务量进行调整.实验结果表明集群的总任务完成时间明显地缩减,各节点的负载更加均衡,节点资源的利用更为合理.     

异构云中面向集群负载均衡的任务调度策略

负载均衡是提高资源利用率和系统稳定性的重要手段。基于改进的自适应变异粒子群算法,提出了一种异构环境下面向集群负载均衡的任务调度策略。在调度策略的设计中,融入了经济学“二八”定律,通过把握用户对集群节点安全性和可靠性的偏好程度并预估任务的负载信息,在保证系统负载尽量均衡的前提下,最小化任务执行时间的同时提高大客户满意度。仿真实验显示,改进的自适应变异粒子群算法比未改进的自适应变异粒子群算法和基本粒子群算法在收敛速度和跳出局部最优两个方面都有更好的表现。结果表明,改进的自适应变异粒子群算法在保证集群负载均衡的同时可以更好地提高云服务提供商的利润空间。     

使用Gini方法评测和优化集群节点结构

负载均衡机制是一种用于提高集群整体处理能力的方法,但是不合理的集群结构往往会影响负载均衡机制的效率,两者的不协调在一定程度上限制了系统性能的体现。通过建立负载均衡模拟系统和引入Gini方法,从节点性能分布、节点数量两个角度分析了集群节点结构与其负载均衡机制的相关性,进而提出了一个评测和优化系统能力的方法。最后用实验验证了这个方法的可行性,并给出了进一步的研究方向。     

基于Kubernetes的动态负载均衡机制研究与设计

Kubernetes因其强大的容器编排能力而受到业界的广泛使用,但由于其节点的负载均衡是静态的,随着应用的不断创建和删除,以及节点资源的变化,极易出现集群负载不均衡的现象,从而导致部分节点压力过大,甚至存在宕机的风险。为解决这一问题,论文提出了一套面向Kubernetes的动态负载均衡机制,根据节点的负载信息变化情况,能够动态选择合适的Pod进行重新调度。实验结果表明该机制可以达到集群压力均匀分散的目的,使集群的资源得到更合理的使用。     

A hybrid policy for fault tolerant load balancing in grid computing environments

Due to the emergence of grid computing over the Internet, there is a need for a hybrid load balancing algorithm which takes into account the various characteristics of the grid computing environment. Hence, this research proposes a fault tolerant hybrid load balancing strategy namely AlgHybrid_LB, which takes into account grid architecture, computer heterogeneity, communication delay, network bandwidth, resource availability, resource unpredictability and job characteristics. AlgHybrid_LB juxtaposes the strong points of neighbor-based and cluster based load balancing algorithms. Our main objective is to arrive at job assignments that could achieve minimum response time and optimal computing node utilization. Major achievements include low complexity of proposed approach and drastic reduction of number of additional communications induced due to load balancing. A simulation of the proposed approach using Grid Simulation Toolkit (GridSim) is conducted. Experimental results show that the proposed algorithm performs very well in a large grid environment.     

异构集群环境下负载平衡调度算法研究与实现

围绕平衡负载这一目标,针对进程级并行任务的动态调度问题进行了研究,提出了一个异构集群环境下动态负载平衡算法,它结合了自适应数据采集与交换算法,有效的解决了服务器之间负载不平衡的问题,提高了系统的吞吐率。     

基于轮换策略的异构云资源分配算法

云计算以其按需索取、按需付费、无需预先投资的优势给用户带来极大的便利,然而静态、单一的云计算环境容易成为网络攻击的目标,给用户带来较大的安全风险。动态的虚拟机部署策略和异构的云基础设施在提升云计算环境安全性的同时会降低资源利用率。提出一种针对虚拟机轮换时的资源分配算法,将不同类型的资源抽象成维度不同的向量,并通过求解装箱问题实现资源分配中的负载平衡,同时为每个虚拟机设定驻留时间,对当前服务器的负载状态进行轮换以提升虚拟机的安全性。实验结果表明,资源动态分配算法在提高虚拟机安全性能的同时,能够减小轮换带来的负载波动。     

服务化软件系统的运行时资源动态分配方法

Web软件是一种典型的基于Internet的软件形态,它自身的特点决定了其运行时的可靠保障以及质量优化都需要系统具有一定的自适应能力。对于服务化的Web软件系统而言,各服务之间的动态资源分配是实现运行时自适应的重要基础。针对这一问题,构建了一个基于Web的在线购物系统,并在此基础上对基于Web服务资源动态分配及负载均衡的Web软件系统运行时自适应技术进行了研究。对Web软件系统的运行时自适应管理问题进行了分析,提出并实现了资源动态分配及负载均衡方法,在此基础上针对在线购物系统进行了有效性验证。实验结果表明,优化的资源动态分配及负载均衡方法可以有效地提高Web软件系统的运行质量。     

基于Linux虚拟服务器的负载均衡算法

分析Linux虚拟服务器负载均衡调度过程,提出一种基于Linux虚拟服务器的负载均衡算法。该算法结合系统资源类型和服务器权重系数,依据服务器加权负载标准差,进行集群真实服务器负载状况分析,动态调整服务器权重系数,对改进的最小连接数调度算法进行负载均衡调度。测试结果验证了该算法的有效性。     

面向集群渲染的反馈控制负载均衡算法

针对传统集群渲染系统处理多级任务时无法实现动态负载均衡的问题,引入反馈控制思想,结合负载均衡原理,提出反馈控制负载均衡的新算法。该算法采用全局集中式负载均衡策略调度和分配任务线程,为不同的请求服务等级提供服务响应时间保障,实时动态调整集群系统各节点的负载并使其实现负载均衡。实验结果表明,系统整体性能比传统系统提高约1/3,证明了该算法的可行性和有效性。     

A dynamic resource management in mobile agent by artificial neural network

In this paper, a resource management for dynamic load balancing in mobile agent by artificial neural network scheme (ANN-DLB) is presented to maximize the number of the served tasks in developing high performance cluster. This dynamic load balance with the growth of the service type and user number in the mobile networks of the higher performance is required in service provision and throughput. Most of the conventional policies are used in load indices with the threshold value to decide the load status of the agent hosts by CPU or memory. The main factor influencing the workload is the competitions among the computing resources such as CPU, memory, I/O and network. There are certain I/O data of the intensive applications where load balancing becomes the important issue. This relationship between the computing resources is very complex to define the rules for deciding the workload. This paper proposed a new dynamic load balancing for evaluating the agent hosts’ workload with the artificial neural network (ANN). By applying the automatic learning of the back-propagation network (BPN) model can establish the ANN model and also can measure the agent host loading with five inputs: CPU, memory, I/O, network and run-queue length. The structure of the load balancing system is composed of three design agents: the load index agent (LIA), the resource management agent (RMA) and the load transfer agent (LTA). These experimental results reveal that the proposed ANN-DLB yields better performance than the other methods. These results demonstrate that the proposed method has high throughput, short response time and turnaround time, and less agent host negotiation complexity and migrating tasks than the previous methods.