基于预测机制的分级负载均衡算法

为解决服务器集群负载分配不均的问题,根据用户访问的请求类型,综合考虑用户历史请求引起的负载增量和服务器节点性能,提出了基于预测机制的分级负载均衡算法。负载均衡节点根据用户访问的请求类型建立一次指数平滑预测模型,对相应请求类型引起的负载进行预测,并将预测负载划分为低负载、正常负载、重负载等三个负载等级,根据负载等级对用户请求进行调度,从而实现负载均衡。使用OPNET仿真软件进行测试,结果表明该算法能有效提高负载均衡效率,有较好的负载均衡效果。     

关于调度算法与Web集群性能的分析

用排队论方法分析负载均衡型调度算法和Locality型调度算法对Web集群服务器性能的影响，所获得的结论有：（1）由于充分应用后端结点的主存资源，所以应用Locality型调度算法时的Web集群服务器的性能要好于应用负载均衡型调度算法时的性能；（2）Locality型调度算法中，完全基于请清内容来分发请求将导致负载失衡现象的产生，而必须允许适量的文件复制，才能使Web集群服务器的性能显著提高。     

一种基于预测模型的负载均衡算法

结合集群系统中服务节点负载变化的不确定性和随机性的特点,提出WPLS-SVM组合的Linux服务器集群系统负载预测模型。该模型能够依据采样值对集群中节点的负载情况做出预测,根据节点的负载预测结果结合随机区间调度算法可以有效地实现对请求任务的分配与调度。仿真结果表明,较传统的负载均衡算法该算法克服了响应速度慢、预测精度差等缺点,提高了集群系统的利用率。     

基于轮转周期的动态反馈负载均衡算法

网络管理系统中管理端逐步采用分布式集群构架,通过负载均衡算法调度客户端请求,并将客户端请求分配给多个事务节点进行并行处理。为进一步提高集群系统服务的性能,文中在研究以往负载均衡算法的基础上,提出了一种基于轮转周期的动态反馈负载均衡算法。该算法设计了一种基于剩余资源动态权值的节点剩余负载能力计算方法的动态反馈机制;并在动态反馈负载均衡算法的一个采样周期内引入轮转周期对客户端请求均衡分配。通过实验比较分析,该算法能获得更好的负载均衡效果。     

一种共享存储视频服务器集群的请求调度策略

在VOD服务器集群中,对用户服务请求的合理调度是提高集群整体性能的关键技术之一.本文针对共享存储结构下的服务器机群,在请求调度算法LoadCache-rep基础上进行改进,提出一种基于视频节目点播集中度的调度策略,该策略通过将相近的点播请求调度至相同服务器上以充分利用服务器的缓存机制,同时兼顾均衡各服务器间的负载.并根据实时负载变化对请求进行迁移以消除VCR操作对负载分布的影响.仿真试验表明,该策略能有效提高视频服务器集群的运行性能.     

基于Docker集群的弹性任务调度模型构建

针对Docker集群访问量具有随机性和不确定性的问题,在提出基于多指标灰色负载预测基础上,通过增加或减少应用容器的方式,实现集群任务的弹性调度,实现集群应用性能和负载均衡。实验结果表明,所提出的基于多指标灰色负载预测算法的弹性任务调度策略,可适应web应用的动态变化,保证高负载状态下应用可即时响应,低负载状态下集群的资源利用率最高。     

基于实时性能动态反馈的负载均衡算法

通过分析与研究当前Web服务器集群的负载均衡技术和调度算法,提出了一种新的基于实时性能动态反馈的负载均衡算法设计,算法引入了请求量化方法、实时性能指标和准入控制机制,实验结果表明本算法具有较好的低响应延迟和高吞吐率性能。     

基于Nginx的DRC集群动态负载均衡策略

面向数据的体系架构(DOA)为海量异构数据流通共享提供了新的有效解决方案。而数据注册中心(DRC)作为DOA的核心部件,它的访问性能尤为关键。针对高并发访问带来的DRC集群服务过载问题,采用Nginx反向代理负载均衡技术处理高并发访问。对Nginx的负载策略进行分析优化,提出一种由动态配置、负载收集、算法调度组成的动态负载均衡策略,并在负载调度模块对Nginx加权最小连接调度算法(WLC)进行改进,通过自适应权值不断调度下一个周期内性能最优的节点来处理请求。通过高并发性能测试验证了所提出的负载均衡策略在DRC集群中能更有效处理大流量的访问需求,提高集群的资源利用率和缩短请求响应时间。     

集群服务器响应延时预测及其负载调度控制

单纯以负载均衡为目标的Web服务器集群调度不仅增加了算法的复杂度,在集群超载的情况下也无法保证服务的质量,而以响应延时为基础的均衡算法则可确保更好的服务质量.综合运用多级模糊系统与人工神经网络,既基于服务器系统的负载状况,又兼顾Web请求文件的类型与大小,对响应延时进行模糊预测,并在此基础上提出了一种基于响应延时阈值的集群服务器负载控制算法.构建仿真环境对所提出的参数预测及算法的有效性进行了验证.     

视频监控系统中的VOD负载均衡改进算法

在传统轻负载优先调度负载均衡算法中,存在用户点播响应时延长且负载均衡度不高的问题。为解决上速问题,提出一种静态负载调度和动态负载迁移相结合的负载均衡算法。静态调度算法采用基于视频点播(VOD)相似度的轻负载优先算法,将相似的点播请求调度至相同的视频点播上,提高VOD的缓存命中率,以缩短点播响应时延。动态负载迁移算法采用基于缓存考虑的REM负载迁移算法,将负载由高载VOD迁移到低载VOD上,以提高负载均衡程度。实验结果表明,在典型城域视频监控系统500路点播规模下,提出的负载均衡算法与传统轻负载优先算法相比,能够缩短17.5%的点播延迟时间,降低53.4%的集群负载方差,提高了系统的负载均衡度。     

基于OpenStack的Swift负载均衡算法

为了解决由于OpenStack的负载分发不均衡而引发的存储性能下降、资源利用率降低、I/O响应时长增加等问题,提出对加权最小连接调度算法进行改进. 通过对对象存储的负载均衡调度算法研究,利用存储节点的CPU、内存、硬盘、I/O资源利用率信息,并结合节点任务请求连接数,计算存储节点负载能力、性能和权值. 负载均衡器根据每个存储节点的权值大小判断任务分发方向. 经实验证明改进的负载均衡调度算法能够解决存储读写性能下降的问题,提升数据吞吐率、存储读写性能和系统稳定性.     

Kubernetes异构资源细粒度调度策略的设计与实现

在异构资源环境中高效利用计算资源是提升任务效率和集群利用率的关键。Kuberentes作为容器编排领域的首选方案,在异构资源调度场景下调度器缺少GPU细粒度信息无法满足用户自定义需求,并且CPU/GPU节点混合部署下调度器无法感知异构资源从而导致资源竞争。综合考虑异构资源在节点上的分布及其硬件状态,提出一种基于Kubernetes的CPU/GPU异构资源细粒度调度策略。利用设备插件机制收集每个节点上GPU的详细信息,并将GPU资源指标提交给调度算法。在原有CPU和内存过滤算法的基础上,增加自定义GPU信息的过滤,从而筛选出符合用户细粒度需求的节点。针对CPU/GPU节点混合部署的情况,改进调度器的打分算法,动态感知应用类型,对CPU和GPU应用分别采用负载均衡算法和最小最合适算法,保证异构资源调度策略对不同类型应用的正确调度,并且在CPU资源不足的情况下充分利用GPU节点的碎片资源。通过对GPU细粒度调度和CPU/GPU节点混合部署情况下的调度效果进行实验验证,结果表明该策略能够有效进行GPU调度并且避免资源竞争。     

异构HPL算法中CPU端高性能BLAS库优化

异构HPL（High-performance Linpack）效率的提高需要充分发挥加速部件和通用CPU计算能力,加速部件集成了更多的计算核心,负责主要的计算,通用CPU负责任务调度的同时也参与计算.在合理划分任务,平衡负载的前提下,优化CPU端计算性能对整体效率的提升尤为重要.针对具体平台体系结构特点对BLAS（Basic linear Algebra Subprograms）函数进行优化往往可以更加充分的利用通用CPU计算能力,提高系统整体效率.BLIS（BLAS-like Library Instantiation Software）算法库是开源的BLAS函数框架,具有易开发、易移植和模块化等优点.本文基于异构系统平台体系结构以及HPL算法特点,充分利用三级缓存、向量化指令和多线程并行等技术手段优化CPU端调用的各级BLAS函数,应用auto-tuning技术优化矩阵分块参数,从而形成了HygonBLIS算法库,与MKL相比,异构环境下HPL整体性能提高了11.8%.     

云数据中心中负载均衡的虚拟机调度方法

 本文研究在主机之间迁移虚拟机来提高系统负载均衡度（包括2个方面：CPU和disk I/O）,同时尽可能地降低迁移代价。因此,目标是寻找主机和虚拟机之间尽可能优的映射方案。本文提出虚拟机的亲和力概念,并且定义了亲和力指数的计算方法,然后建立基于遗传算法的虚拟机调度模型。在这个模型中,交叉操作驱动映射方案的亲和力指数尽可能地增加,变异操作使得主机的CPU和disk I/O的差值趋于收敛。在每一代中,选择策略将亲本个体和子代个体分为一组,并选择较大适应度的个体遗传到下一代,从而使得种群不断地进化,得到最终的映射方案解空间。本文提出基于遗传算法的虚拟机均衡调度算法。该算法选取最终映射方案解空间中的最优解,做到从全局的角度考虑负载均衡问题;提前计算迁移的影响,在得到最优的迁移方案时才进行实质性迁移,从而降低了迁移代价;使用MTALB算法将多类型任务均匀地分配到虚拟机中,系统的负载均衡效果更佳。实验结果表明,就迁移代价和系统负载均衡各项具体指标而言,本文算法相比于首次适应和轮转调度算法以及NABM算法存在全面优势。在任务处理率这一关键指标上,本文算法比首次适应和轮转调度算法及NABM算法分别平均提升了25%和12%。     

异构HPL算法中CPU端高性能BLAS库优化

异构HPL(high-performance Linpack)效率的提高需要充分发挥加速部件和通用CPU计算能力,加速部件集成了更多的计算核心,负责主要的计算,通用CPU负责任务调度的同时也参与计算.在合理划分任务、平衡负载的前提下,优化CPU端计算性能对整体效率的提升尤为重要.针对具体平台体系结构特点对BLAS(ba...     

基于大流调度的软件定义数据中心网络负载均衡算法

传统负载均衡算法对数据中心网络中的大流进行调度时,会造成部分链路负载过重、网络整体负载不均衡等问题。将负载均衡问题转化为多商品流问题进行求解,结合软件定义网络集中控制的思想和数据中心网络的流量特征,提出一种基于大流调度的软件定义数据中心网络负载均衡算法。根据阈值将数据流划分为大流和小流,结合路径上大流分布度和可用负载度对大流进行重路由,以减小大流对网络负载均衡的影响。仿真实验表明,在流量大小分布不均衡的数据中心网络中,该算法与传统的等价多路径算法和基于全局最先匹配的动态流量调度算法相比,在平均对分带宽上获得了更大的提升,能够更好地实现数据中心网络的负载均衡。     

Agent scheduling model for adaptive dynamic load balancing in agent-based distributed simulations

Agent-based distributed simulations are confronted with load imbalance problem, which significantly affects simulation performance. Dynamic load balancing can be effective in decreasing simulation execution time and improving simulation performance. The characteristics of multi-agent systems and time synchronization mechanisms make the traditional dynamic load balancing approaches not suitable for dynamic load balancing in agent-based distributed simulations. In this paper, an adaptive dynamic load balancing model in agent-based distributed simulations is proposed. Due to the complexity and huge time consuming for solving the model, a distributed approximate optimized scheduling algorithm with partial information (DAOSAPI) is proposed. It integrates the distributed mode, approximate optimization and agent set scheduling approach. Finally, experiments are conducted to verify the efficiency of the proposed algorithm and the simulation performance under dynamic agent scheduling. The experiments indicate that DAOSPI has the advantage of short execution time in large-scale agent scheduling, and the distributed simulation performance under this dynamic agent scheduling outperforms that under static random agent distribution.     

一种提高集群调度性能的改进型蚁群算法

蚁群算法ACO能较好地应用于集群调度,但其传统的信息素更新方式带来了性能匹配和负载均衡等问题,影响了集群调度的性能.针对这些问题,提出了改进型蚁群算法IACO,通过引入性能匹配因子和负载均衡因子更合理地调整信息素,缩短了作业处理时间,提高了CPU利用率,从而有效地提高了集群调度性能.     

Task partitioning,scheduling and load balancing strategy for mixed nature of tasks

Load balancing and task partitioning are important components of distributed computing. The optimum performance from the distributed computing system is achieved by using effective scheduling and load balancing strategy. Researchers have well explored CPU, memory, and I/O-intensive tasks scheduling, and load balancing techniques. But one of the main obstacles of the load balancing technique leads to the ignorance of applications having a mixed nature of tasks. This is because load balancing strategies developed for one kind of job nature are not effective for the other kind of job nature. We have proposed a load balancing scheme in this paper, which is known as Mixed Task Load Balancing (MTLB) for Cluster of Workstation (CW) systems. In our proposed MTLB strategy, pre-tasks are assigned to each worker by the master to eliminate the worker’s idle time. A main feature of MTLB strategy is to eradicate the inevitable selection of workers. Furthermore, the proposed MTLB strategy employs Three Resources Consideration (TRC) for load balancing (CPU, Memory, and I/O). The proposed MTLB strategy has removed the overheads of previously proposed strategies. The measured results show that MTLB strategy has a significant improvement in performance.