基于Nginx 服务器的动态负载均衡策略

针对并发请求带来的服务器过载的问题, 将Nginx 服务器内置负载均衡策略进行优化, 提出一种由负载采集、算法调度以及健康检查3 个模块构成的动态负载均衡策略, 其中算法调度模块给出改进后的调度算法--动态负反馈调度算法, 以及新的度量指标。采用Apache BenchMark 的httpd-tools 工具进行测试, 结果证明, 改进后的策略使得服务器集群中的资源得到更为有效的利用, 系统的吞吐量和处理能力得以提高, 该调度算法无论在用户请求响应时间、实际处理的请求数, 还是负载均衡度都优于Nginx 内置的两种算法。     

XMPP协议的数据分发网络的负载均衡算法

通过对负载均衡算法的研究,改进了加权最小连接数算法,使其适用于并发流量较小但会话连接数量较大的可扩展通讯和表示协议服务器集群系统的数据分发网络。可动态地获取服务器的占用资源,实时计算当前负载能力及负载比率,并通过限定阈值将服务器负载状况分为3个阶段,通过两种不同算法相结合来调度服务器,并且能在服务器空闲或超载时,适时关闭服务器或调度新的服务器,提高服务器集群的负载性能。     

基于动态指数平滑预测的负载均衡算法

负载均衡算法是决定计算机集群性能的关键．研究介绍了常见的负载均衡算法,讨论了这些 算法的优缺点,并在此基础上提出了一种基于负载预测的均衡算法．该算法通过动态指数平滑模 型,计算出适应于当前服务器节点负载时间序列的平滑系数,预测该节点下一时刻负载值,分发器 再以负载预测值最小为依据调度用户服务请求．使用ＯＰＮＥＴ网络仿真软件进行测试,结果表明该 算法能有效提高负载均衡效率,具有良好的负载均衡效果．     

CDNs基于缓存区预测机制的负载均衡算法

提出了一种基于缓存队列长度动态预测机制的请求重定向（BMP）算法,采用M/M/1排队模型对分布式内容分发网络的负载均衡算法进行了描述,基于队列长度预测的机制减少了分发请求过程中不必要的重定向,同时可以克服单点过载问题.仿真分析结果显示,相比于之前的负载均衡控制策略算法,所提出的BMP算法对服务器缓存区队列长度的均衡效果更优;同时,由于减少了不必要的重定向,也降低了请求响应过程的时延成本.     

基于多目标权衡的数据网格作业调度算法

动态变化的数据网格环境下,很大一部分服务器和带宽资源于分发业务和下载类服务的传递,其资源请求任务受调度长度、时间跨度、负载均衡、服务质量、经济原则及安全性能等诸多因素制约,难以用单一的特征来表示。鉴于此,基于多目标权衡提出一种针对多业务作业请求矩阵,权衡多参数均衡的作业调度算法。仿真实验表明,该算法能在系统重载时提升系统整体的吞吐率,适应大规模图状数据处理场景.     

集群Web服务器的预测最小连接请求调度算法设计

讨论了集群Web服务器的几种请求调度策略,针对现有的请求调度策略都是基于队列当前状态的调度,提出"预测最小连接优先"请求调度策略.通过请求速率、服务器负载及队列的历史信息来预测未来队列的状态,然后根据预测队列的状态分配请求连接,从而有效地解决服务器间的负载不平衡.     

流媒体系统中基于请求迁移的任务调度算法

提出了基于请求迁移的任务调度策略(Request migration based task scheduling,RMTS)算法,当有新请求到达系统时,运行RMTS算法的调度器根据当前负载状态和迁移路径长度决定是否对请求进行迁移,并选择最优迁移路径。当某个媒体服务器出现故障无法提供服务时,调度器将该服务器正在服务的请求迁移到其他存储有相应内容的媒体服务器以保障点播服务不间断。采用请求成功率和服务时延度量系统的性能,仿真结果表明:RMTS算法优于传统迁移算法和REM(Random early migration)算法,服务时延和请求成功率分别提高了14%和15%。     

基于最大网络收益的DNS内容路由算法

为了使用户请求导向能提供所请求业务的最佳网络服务器,同时又考虑网络的负载均衡性,提出了一种综合网络性能和用户位置信息的域名服务系统(DNS)内容路由算法.采用名字解析服务器与网关处分别获取的内容服务器负载信息和网络路由信息生成网络收益,根据最大网络收益算法选取最佳的内容服务器.对所提出的算法进行了性能仿真,并与DNS轮询算法(RR)和最小连接算法(LL)作了比较分析.结果表明,所提算法的平均请求时延、平均剩余带宽和网络负载均衡性能都优于RR算法和LL算法.     

基于Nginx的Web服务器性能优化研究

动态负载均衡算法能最小化并行集群中应用服务的响应时间或执行时间,并且对解决高度并行系统中不可预测负载估计问题至关重要。通过加权最小连接算法与upstream机制相结合,提出一种动态反馈负载均衡算法,解决Nginx负载均衡的动态反馈问题,提高了负载均衡分配的准确性。压力测试结果表明,该算法能避免因动态负载信息采集而引入影响整体性能的通信负载开销,提高算法可行性,减小Web服务器平均响应时间并提升正确响应率,为服务器性能优化提供新的解决方案。     

基于信息反馈的网络服务请求调度方法

针对Web服务器一般采用"尽力而为"服务方式,在用户请求急剧增多,到来的请求速率远大于服务器所能处理的请求速率,引起不可预知的请求响应延迟,从而使整个Web服务系统性能急剧恶化的情况,提出了一种Web服务请求调度策略.通过系统的性能反馈信息,分析了其中影响服务质量的主导因素,进行实时调度,以确保符合一定满意度的服务质量.     

基于动态反馈的负载均衡方法研究

随着基于互联网的应用服务快速发展,网络上提供应用服务支撑的服务器(集群)所面临的并发性访问激增,运用负载均衡是应对处理大量并发访问及提高服务请求接入性能的重要策略之一。负载均衡通过对服务器集群中的逻辑/物理单机进行规划实现负载任务分配调度,实现对大量并发访问的并行化处理,从而提高应用服务的请求接入和服务处理性能。提出了一种基于动态反馈的负载均衡方法,其通过周期性的获取集群中单机节点的工况信息,然后分析单机节点的实时负载和响应情况,并将其与保持负载均衡性能的决策参考阈值相比对,通过负载任务再分配达成动态负载调整并保持集群工作性能均衡的目的,进而提升集群系统的服务吞吐能力,降低服务请求的响应延迟,能够为开展海量数据高并发处理提供技术基础和保障。实验结果表明,该算法使系统的整体性能得到了改善。     

基于网络拓扑的CDN内容路由技术研究

传统的负载均衡技术只考虑服务器的负载来重定向用户的请求,不能保证对用户的响应性能,采用基于网络拓扑的内容分送网络(CDN)内容路由技术,根据时延、跳数、拓扑距离等距离尺度对用户请求进行重定向,可以获得最佳的用户响应性能.最简单的基于网络拓扑的CDN内容路由算法是直接测量请求用户到各个服务器之间的距离,然后据此作出路由选择,但这种算法需要很长的计算时间.一种改进算法是采用基于网络拓扑分割的内容路由算法.研究结果表明,该算法不仅可以保持与简单算法相当的性能,而且可以大大减少计算时间.     

综合业务平台负载均衡的研究

为满足下一代网络中综合业务平台(ISP)运行的稳定性 、高可靠性及实时性要求,针对业务特点，设计了能达到负载均衡目标的定制接受算法. 根 据业务量差异情况设置参数，此算法可以较快地响应业务量变化，调整权值到最佳状态. 仿 真实验表明，应用该算法分发业务请求可以降低处理的平均响应时间. 此外，采用多级Java 管理扩展(JMX)结构实现了平台多服务器负载均衡机制，从而根据业务量情况灵活的增删服 务器个数，实现对平台中多台服务器的分布式管理.     

Linux服务器集群中的负载均衡技术研究

服务器集群技术是解决目前网络计算瓶颈的一种有效方案,负载均衡技术是其中的关键.对Linux虚拟服务器集群的结构与原理进行讨论,重点阐述了基于网络地址转换(NAT)的负载均衡技术以及满足不同应用需要的4种负载均衡算法,并在Linux操作系统环境下构建了虚拟服务器集群,测试了负载响应、服务性能、调度器备份.结果表明,基于IP层的负载均衡技术是有效的,集群技术较大幅度地提高了系统的综合性能.     

综合业务平台负载均衡的研究

为满足下一代网络中综合业务平台(ISP)运行的稳定性 、高可靠性及实时性要求,针对业务特点，设计了能达到负载均衡目标的定制接受算法. 根 据业务量差异情况设置参数，此算法可以较快地响应业务量变化，调整权值到最佳状态. 仿 真实验表明，应用该算法分发业务请求可以降低处理的平均响应时间. 此外，采用多级Java 管理扩展(JMX)结构实现了平台多服务器负载均衡机制，从而根据业务量情况灵活的增删服 务器个数，实现对平台中多台服务器的分布式管理.     

基于请求分类和许可控制的Web集群QoS研究

Web服务器集群是提高HTTP请求处理能力的重要途径,但是请求负载的增加常常导致Web服务器集群性能降低,用户期望的服务质量得不到保证.针对这种情况,提出了通过采用对用户请求分类和请求许可控制的策略,对不同类别的Web请求提供不同质量的服务,保证服务级用户的服务质量.仿真实验表示明,这种策略能改善系统的负载均衡能力,缩短系统平均响应时间.     

基于Fuzzy的负载调度算法在CDN中的应用研究

针对负载调度中请求延时期间的负载波动情况自适应性较差、平均响应时间分布不均等问题,提出了一种基于模糊逻辑的自适应算法,以服务器队列长度、服务时间、响应时间等模糊变量为输入,应用27种推理规则,得到模糊输出集。仿真实验结果表明,能够根据节点服务器负载的动态变化实现自我调整,降低各服务器的最小响应时间,实现服务器集群的负载均衡。     

基于混合策略的集群负载均衡算法研究

传统的负载均衡策略仅对某些类型的站点有效,而不能满足各种站点类型的要求。在分析已有方法的基础上,针对不同类型的用户请求特点,提出了一种基于混合策略的负载均衡算法。该算法通过对用户请求的分类调度来获得较高的cache命中率,同时还引入了会话保持技术和反馈环节来解决会话失效和负载不均衡的问题。实验结果表明,这种该算法能有效提高集群系统的整体性能。     

改进的EPON系统Online&Offiine SPD混合调度算法

为了减小以太网无源光网络(EPON)offline调度产生的上行信道空闲时间,提出了基于最小群时延优先(SPD)改进的online &; offline混合调度算法,考虑到环路时延 (RTT)的影响,在请求带宽大小的基础上再结合对RTT范围的限定,进行online和offline两级分类. 数学分析和仿真结果显示,改进的混合调度算法使网络性能优于M DBA1算法,即使在中低负载的情况下,也优于offline SPD调度算法.     

多入口条件下WEB服务器负载均衡高可用性的研究

对于高负荷条件下的WEB服务器集群的负载均衡,主要问题之一是如何获取实时负载及负载能否有效衡量整个网络的利用率和性能,即须找出合适的参数作为负载并动态获取到。本文就这一问题提出了对交换设备使用SNMP动态采集负载信息,用于负载模型中。主要思路是利用NET-SNMPAPI对管理设备发送get-request请求包,再处理响应包中的变量值为所需格式,接着运用到综合负载模型中,最后采用最小加权轮询调度处理用户请求。