基于标记的缓存协作分布式Web服务器系统

介绍了提高Web服务器性能的前沿技术--分布式Web服务器系统,讨论了现有各种方案的优缺点,在此基础上提出一种新的分布式Web服务器系统.该系统使用基于标记的缓存协作用户请求分发方法(tag based cache cooperative Web requests distribution,简称TB-CCRD),通过前端机把系统中各个Web服务器的缓存组织成一个大的虚拟缓存系统,提高系统的整体缓存命中率,缩短了请求的响应时间;通过分布式处理TCP连接转交来消除前端机的性能瓶颈;利用标记通告URL在缓存中的位置,避免了额外的系统内部通信.从而得到了一个可扩展的高性能分布式Web服务器系统.     

一种集群服务器并行网页预取模型

提出了集群服务器并行网页预取模型,模型采用了马尔科夫链分析访问路径并在Web集群服务器的各节点上并行预取页面,把集群技术的高性能和高可靠性与预取技术的快速响应能力结合起来。实验表明,将此模型应用于集群服务器的分发器上,服务器系统具有更高的请求命中率和更大的吞吐量。     

集群服务器自调度方法的研究与实现

传统的Web集群服务器,均以集中控制的负载均衡为特征,带来的主要问题是负载评估比较粗略,高负载情况下后端服务器容易出现"活锁"现象,前端负载均衡器也容易成为整个系统的瓶颈.针对传统集群负载均衡技术的缺点,提出一种自调度负载均衡技术,把负载均衡的工作转移到后端的服务器,能够有效提高整个集群系统的性能.     

多前端并行负载均衡集群服务器的设计与实现

介绍了在基于前端分配器负载均衡集群中单一前端分配器的局限。提出了一种新的集群服务器结构,使用集线器将多台前端分配器集连,通过对数据包散列令多前端并行工作,消除集群前端分配器的瓶颈。实验测试在第四层和模拟第七层负载均衡下,双前端分配器器能提供比单前端高50%到80%的负载能力。     

IPVS集群系统的改进设计与实现

IPVS集群系统由于负载调度器这一瓶颈限制了整个系统的负栽能力,所以可采用分布式Web服务器对原有系统进行改进,通过对改进后的系统进行了测试,表明系统在负载能力和响应速度上有所提高.     

基于内容分发的Cache集群系统

文章设计和实现了大规模基于内容请求分发的系统。一个VS／DR或VS／TUN调度器作为系统的单一入口点，将请求分发给一组KTCPVS分发器，KTCPVS分发器通过使用中心的内容位置服务来确定处理该请求的后端服务器，然后，再将该请求分发到后端服务器，并提出基于局部性的最小负载调度算法。最后将该体系结构应用到大规模Cache集群系统中加以验证。     

ASAS集群的模糊控制策略

传统的集群服务器依靠前端分发器基于负载均衡来分发客户请求,而ASAS集群采用了基于后端服务器负载分析后的主动调度策略。控制ASAS集群后端服务器的CPU利用客户请求的响应时间,或者连接容量,却很难建立一个精确的数学模型,因此传统的控制器很难控制。这里设计了一个模糊控制算法,控制算法的输入是CPU利用率和客户请求的响应时间,输出是连接数,试验表明这种模糊控制策略取得了很好的性能表现。     

嵌入式Web集群服务器节能机制的研究与实现

提出一种针对嵌入式Web集群服务器的能耗节约机制,将其应用于基于Linux的嵌入式Web集群平台。分别探讨了集群平台的前端和后端服务器的节能方案：通过动态负载估算,在前端设计了控制后端服务器的开关算法,并在该算法中实现了阈值机制;后端服务器使用DVS策略,使之可根据负载情况动态调整处理器的工作频率。实验结果表明,和标准的Linux内核以及已有的节能方案相比,该方案节能效果显著。     

B／S模式服务器集群系统的研究与应用

传统三层B／S模式Web应用系统在Web服务器和数据库服务器连接时,存在瓶颈问题。本文基于此问题给出了一种基于Web集群和数据库集群的负载均衡系统。试验结果表明该系统能较好的满足要求。     

Web集群系统的几个参数优化设计

该文利用系统分析的方法研究了Web集群系统的优化设计。用排队论分析了具有不同服务器的Web集群系统,得到系统性能的解析解。在此基础上进行了系统优化设计的数学分析,并根据系统优化的目的不同,给出了确定Web集群系统所需服务器数目的算法。该方法对于分析系统瓶颈、优化Web集群系统的体系结构有重要意义。     

一个基于机群的可扩展的Web缓存服务器

解决分层缓存系统较高层缓存器的瓶颈问题可用扩展性好的机群系统来实现。文章在分析了目前已有的两种典型的机群缓存服务器的基础上,提出了一个新的Web缓存服务器系统。在新系统里引入了摘要缓存机制,使系统形成单一缓存映像,达到快速访问的目的。摘要信息文件的缩短和单一入口点只传输请求不传输响应的机制,减轻了系统里请求分配器的负担,系统可扩展性好。解决缓存系统的热点文件和机群系统的异构性问题的动态负载平衡算法有利于提高系统的吞吐率。     

DNS dispatching algorithms with state estimators for scalable Web‐server clusters

Replication of information across a server cluster provides a promising way to support popular Web sites. However, a Web‐server cluster requires some mechanism for the scheduling of requests to the most available server. One common approach is to use the cluster Domain Name System (DNS) as a centralized dispatcher. The main problem is that WWW address caching mechanisms (although reducing network traffic) only let this DNS dispatcher control a very small fraction of the requests reaching the Web‐server cluster. The non‐uniformity of the load from different client domains, and the high variability of real Web workload introduce additional degrees of complexity to the load balancing issue. These characteristics make existing scheduling algorithms for traditional distributed systems not applicable to control the load of Web‐server clusters and motivate the research on entirely new DNS policies that require some system state information. We analyze various DNS dispatching policies under realistic situations where state information needs to be estimated with low computation and communication overhead so as to be applicable to a Web cluster architecture. In a model of realistic scenarios for the Web cluster, a large set of simulation experiments shows that, by incorporating the proposed state estimators into the dispatching policies, the effectiveness of the DNS scheduling algorithms can improve substantially, in particular if compared to the results of DNS algorithms not using adequate state information. This revised version was published online in August 2006 with corrections to the Cover Date.     

一种Web集群系统下的QoS控制策略

本文提出了一种在Web集群环境下的QoS控制策略。集群前端分配器以会话单位来分配访问请求,保证后端服务器间负载的合理均衡分配,同时后端服务器采用基于会话的QoS控制策略,实现对集群系统的服务质量控制。     

Openstack虚拟化流量平台监控系统

云平台监控系统是有效保障云服务质量的重要环节,本文在Openstack云平台上进行相应的虚拟服务器监控系统设计. 系统结合Openstack的开源性和强大的可扩展性的特点,以Openstack中的网络组件Neutron面对庞大虚拟服务器流量转发时所出现的瓶颈问题为出发点,结合SDN软件定义网络技术及其重要的南向接口协议OpenFlow解决流量瓶颈问题,设计基于Libvirt和sFlow协议的监控系统,负责获取虚拟机群数据流量信息,并且向上层控制模块以及用户反馈最新的平台负载情况,使用控制模块和流表控制流量转发,最终使整个系统平台达到负载均衡.     

集中式负载调度中瓶颈缓解技术

在分析了现有的网络负载平衡方案的基础上,针对采用集中式负载调度的集群系统中普遍存在的网络瓶颈的问题,提出了基于虚拟路由技术的缓解方法。首先对LVS进行了网络瓶颈问题的分析,并针对存在的问题提出了采用虚拟路由技术,调度器与服务器配对技术与增加网卡相结合的缓解网络瓶颈问题的方法。在FreeBSD5．2下实现了一个负载调度系统,称之为FSS,其支持虚拟路由,和服务器与调度器的配对,其它功能与LVS在IP层调度时基本相同。经实验验证,该方法达到了缓解网络瓶颈的目的。     

一种异构Web服务器集群动态负载均衡算法

针对Web服务器集群系统中负载动态变化特性,提出了一种临界加速递减动态请求负载分配算法．通过负载权值的等效变换更准确地反映集群中单台服务器的当前负载状态;通过临界递减因子来有效抑制服务器可能出现的“拒绝访问”现象;通过随机概率分配方式替代固定转发分配方式,使访问负载的分布更均匀;通过实际测试获取算法中所需的计算参数,使配置操作更为简单．实验结果表明,该算法对较大负载的文件集的大密度访问情况效果明显。     

分配器上支持QoS的设计与实现

为了让Web集群服务器支持QoS，在分配器上实现了一些QoS的机制，包括区分服务、性能隔离、服务器动态划分、接纳控制和内容自适应。对于高优先级的请求，系统确保其服务质量满足事先商定的服务质量协议；对于低优先级的请求，系统提供尽力而为的服务。尤其，当服务器重载时，分配器不是简单地靠丢弃请求，而是采用内容自适应机制来防止服务器过载。实际测试表明，系统达到了所有的设计要求。     

大型网络服务系统性能评测

网络用户数量的激增使得单机网络服务器已经不能满足用户需求,而通常的多机结构又具有维护代价高,负载不均衡等缺陷,使用Cluster绘声结构加上可扩展软件构成的单一入口点机群系统却可以很好地解决这一问题。介绍了曙光2000－Ⅱ型大规模并行计算机上采用该结构构造而成的多节点Web服务器和Email服务器,并对它们的性能进行了评测。多节点Web服务器使用SPEC公司开发的SpecWeb99评测,而Email性能则用国家智能机研究开发中心构造的Email评测软件,并通过对评测结构的分析,证明了该结构的优秀可扩展性能。     

访问Web GIS服务的一种动态负载均衡方法

本文分析了Web GIS的瓶颈问题,引入了基于请求分配器的服务器集群和代理技术,提出了访问Web GIS服务的一种动态负载均衡的方法,从而以较低的成本消除了Web GIS网络瓶颈,提高了Web GIS的数据传输性能。     

A performance study of robust load sharing strategies fordistributed heterogeneous Web server systems

Replication of information across multiple servers is becoming a common approach to support popular Web sites. A distributed architecture with some mechanisms to assign client requests to Web servers is more scalable than any centralized or mirrored architecture. In this paper, we consider distributed systems in which the Authoritative Domain Name Server (ADNS) of the Web site takes the request dispatcher role by mapping the URL hostname into the IP address of a visible node, that is, a Web server or a Web cluster interface. This architecture can support local and geographical distribution of the Web servers. However, the ADNS controls only a very small fraction of the requests reaching the Web site because the address mapping is not requested for each client access. Indeed, to reduce Internet traffic, address resolution is cached at various name servers for a time-to-live (TTL) period. This opens an entirely new set of problems that traditional centralized schedulers of parallel/distributed systems do not have to face. The heterogeneity assumption on Web node capacity, which is much more likely in practice, increases the order of complexity of the request assignment problem and severely affects the applicability and performance of the existing load sharing algorithms. We propose new assignment strategies, namely adaptive TTL schemes, which tailor the TTL value for each address mapping instead of using a fixed value for all mapping requests. The adaptive TTL schemes are able to address both the nonuniformity of client requests and the heterogeneous capacity of Web server nodes. Extensive simulations show that the proposed algorithms are very effective in avoiding node overload, even for high levels of heterogeneity and limited ADNS control