QoS获益驱动的中间件调度框架研究

Web应用服务器目前普遍采用的先到先得式(FCFS)的调度框架在过载时难以保障应用的服务质量(QoS)需求.QoS获益驱动(QBD)的调度框架是一种针对这些不足而提出的请求调度解决方案.QoS获益根据应用的QoS需求得到,用于评价QoS保障对应用需求的满足情况.QBD调度框架包含了多个用于保障应用QoS需求的组件,实现了基于QoS获益的资源规划算法,能够提高服务器对应用QoS需求的保障能力.在OnceAS平台上的实验结果验证了QBD调度框架的有效性.     

请求速率对集群Web服务器调度的影响

讨论了集群Web服务器的几种常见请求调度策略，针对目前大多数的请求调度策略都是只考虑服务器的内在指标，而忽略了请求速率等输入指标对负载调度的影响，即使考虑了请求速率，也很少考虑请求速率变化突发性对Web服务器的影响。通过分析请求速率对Web服务器的性能影响，可以利用输入指标结合服务器指标来调度请求输入，从而有效地解决服务器间的负载不平衡。     

一种资源优化的双最小均衡Web集群区分服务调度算法

在一种新的Web集群体系结构的基础上，提出了一种资源优化的双最小均衡区分服务调度算法：首先在前端调度器按资源均衡度将Web请求分配到各后台服务器．然后将Web请求的优先级与资源均衡度两个特征参数结合起来，综合设计后台服务器的Web请求调度顺序，为了评估该算法的性能，进行了大量的模拟实验．在与其他著名调度策略如分离式调度的对比结果显示：双最小均衡调度算法使Web请求的效率提高了11％，同时很好地实现了区分服务．证实了资源优化调度策略具有一定的普遍意义．     

一种改善Web Qos区分服务性能的控制策略

为了实现基于Web服务器的区分服务,改善服务器性能,文章采用了基于优先级的请求分配策略和资源监控与调度机制来保证Web服务器的服务质量,在此基础上设计了一种基于PID反馈控制机制实现接纳请求的优先级调度方案,并用Matlab进行了仿真,验证了该方法的正确性。     

Web集群服务器的分离式调度策略

主要用排队论方法讨论了Web集群整体性能与请求调度策略之间的关系，所获得的结论是：在Web集群非过载情况下，一部分后端服务器仅处理静态请求而另一部分后端服务器仅处理动态请求的分离式调度策略要好于所有后端服务器既处理静态请求又处理动态请求的混合式调度策略。用SPECweb99测试工具所做的实际测试更进一步证明：当负载参数为120个连接时，采用分离式调度策略的Web集群服务器可完成63个连接，而采用混合式调度策略的Web集群服务器仅能完成36个连接，性能提高了22.5%。     

请求速率对集群Web服务器调度的影响

本文讨论了集群Web服务器的几种常见请求调度策略,针对目前大多数的请求调度策略都是只考虑服务器的内在指标,而忽略了请求速率等输入指标对负载调度的影响,即使考虑了请求速率,也很少考虑请求速率变化突发性对Web服务器的影响。通过分析请求速率对Web服务器的性能影响,我们可以利用输入指标结合服务器指标来调度请求输入,从而有效地解决服务器间的负载不平衡。     

基于缓存层级结构的多核Web服务器动态请求调度算法

针对Web服务器中传统的动态请求调度算法,如先到先服务算法等,不能充分利用多核处理器的并行性的问题,根据多核Web服务器缓存结构的特点提出了基于缓存层级结构的多核Web服务器动态请求调度算法。该算法从处理器核心间的负载均衡和多核处理器的缓存层级结构特点两个方面对动态请求进行调度。基于此算法进行了仿真实验,实验结果表明该算法可保持多核处理器核心间的负载均衡,并能有效缓解多核Web服务器的“乒乓”效应。     

DPSP:一种基于内容的客户请求调度策略

改善执行服务器的性能对于提高Web服务器的服务质量至关重要，在分析执行服务器的线程数量，调度策略，服务器响应时间和客户请求到达率间相互关系的基础上，提出了动态优先级调策略DPSP（dynamic priority scheduling policy)，它根据客户请求内容的重要程序有效地组织服务器的请求执行顺序，达到提高请求服务质量的目的，与先来先服务FCFS（first come first service)，短请求优先SRF（short request first)和DEDF（dynamic earliest deadline first)策略进行模拟比较表明，DPSP策略以较小的响应延迟增量为代价，提高了WWW的服务质量。     

基于均衡状态阈值的混合Web QoS控制方法

在对服务器集群Web QoS控制基础上,综合考虑请求内容和各服务器性能以及当前整个集群负载平衡状况,设计了一种基于L4/L7双层分配的混合负载平衡调度策略,算法引入了一个反馈环节动态地改变Web服务器的权值,通过负载平衡程度的阈值进行判断,选择不同的调度策略,从而提高了Web集群系统的性能。     

Web服务器集群系统QoWS研究

请求负载的增加常常导致Web服务器系统性能降低,用户期望的服务质量得不到保证,这是服务级Web系统所面临和必须解决的问题。文章提出了一种Web服务器集群环境下的负载分配策略,通过对用户请求分类、将不同类别的请求进行响应性能隔离、优先为高级别请求提供服务以及请求许可控制等手段,对不同类别的Web请求提供不同质量的服务,保证了服务级用户的服务质量。同时采用最迟分配原则,改善系统的负载均衡能力,缩短系统平均响应时间。最后通过仿真实验,验证了该策略的正确性和有效性。     

基于收益驱动请求分类的多目标动态优先请求调度

请求调度通常需要在充分利用现有服务器资源的基础上满足响应时间最小化和系统吞吐量最大化的目标,但对于以盈利为目的的电子商务网站来说,关键还是要提高交易请求和VIP用户发起请求的达成率。针对电子商务网站请求调度的多重目标,首先提出了收益驱动的请求分类多维标准,在此基础上定义了请求优先级和调度优先级的概念,给出了基于请求分类的多目标动态优先调度算法MODP,并引入了基于事前过载判断而非负载测量的调度机制以避免控制延迟,有利于电子商务网站在多变的负载条件下自适应地实现差别服务和QoS保障。仿真实验证明了MODP机制与算法的有效性,将其与传统FCFS调度方法进行对比研究,结果表明:服务器无论在高载还是低载情况下,MODP调度策略在实现收益最大化、平均响应时间最小化的目标方面都具有明显的优势。     

一个基于自管理单元支持差分服务的Web容器

随着Internet的飞速发展,符合J2EE规范的Web容器已经成为部署企业Web应用的主流平台.同时,企业Web应用的多样化和复杂性的增长,迫切地要求Web容器提供差分服务的支持.然而,传统的Web容器采用尽力而为的服务模型,无法提供差分服务支持.已有的研究采用准入控制、优先级调度等方法来为Web容器提供差分服务支持,但是它们只能提供单调、静态的差分服务策略.提出了一个基于自管理单元的Web容器DSWC,它能够根据SLA定义提供两级差分服务支持.此外,提出了一个自适应差分服务策略选择算法,它能够根据动态变化的运行环境自适应地选择差分服务策略.原型系统的实验结果显示,DSWC能够有效地为请求提供符合SLA定义的细粒度的差分服务支持.     

Implementation and modeling of two-phase locking concurrency control—a performance study

Two-phase locking (2PL) is the concurrency control mechanism that is used in most commercial database systems. In 2PL, for a transaction to access a data item, it has to hold the appropriate lock (read or write) on the data item by issuing a lock request. While the way transactions set their lock requests and the way the requests are granted would certainly affect a system's performance, such aspects have not received much attention in the literature. In this paper, a general transaction-processing model is proposed. In this model, a transaction is comprised of a number of stages, and in each stage the transaction can request to lock one or more data items. Methods for granting transaction requests and scheduling policies for granting blocked transactions are also proposed. A comprehensive simulation model is developed from which the performance of 2PL with our proposals is evaluated. Results indicate that performance models in which transactions request locks on an item-by-item basis and use first-come-first-served (FCFS) scheduling in granting blocked transactions underestimate the performance of 2PL. The performance of 2PL can be greatly improved if locks are requested in stages as dictated by the application. A scheduling policy that uses global information and/or schedules blocked transactions dynamically shows a better performance than the default FCFS.     

Web服务器集群系统的实现方法及负载管理

影响WWW网站应用的一个主要因素是用户请求的响应时间太慢,这严重影响了基于Internet的各项应用的发展。本文主要阐述了如何通过多个分布式的Web服务器结点来构筑Web服务器集群系统。文中详细说明了Web服务器集群系统的实现原理及方法,并讨论提出了实出其中各个服务结点之间负载平衡的一些基本技术及机制。     

Keta的Web QoS机制与实现

随着Web应用的急剧增长,为了提高Web服务器的处理能力,人们提出和实现了多种Web Server结构。在此基础上,对Web应用提供性能保证和区分服务,实现QoS的控制成为目前Web发展所迫切需要解决的问题。本文针对一种非对称多线程流水线服务器结构--Keta,研究并实现了请求的分级调度控制、高负载的内容自适应降级服务等内容。实验结果表 表明,这些策略机制是有效的。     

A new window-based job scheduling scheme for 2D mesh multicomputers

Allocating submeshes to jobs in mesh-connected multicomputers in a FCFS fashion can lead to poor system performance (e.g., long job waiting delays) because the job at the head of the waiting queue can prevent the allocation of free submeshes to other waiting jobs with smaller submesh requirements. However, serving jobs aggressively out-of-order can lead to excessive waiting delays for jobs with large allocation requests. In this paper, we propose a scheduling scheme that uses a window of consecutive jobs from which it selects jobs for allocation and execution. This window starts with the current oldest waiting job and corresponds to the lookahead of the scheduler. The performance of the proposed window-based scheme has been compared to that of FCFS and other previous job scheduling schemes. Extensive simulation results based on synthetic workloads and real workload traces indicate that the new scheduling strategy exhibits good performance when the scheduling window size is large. In particular, it is substantially superior to FCFS in terms of system utilization, average job turnaround times, and maximum waiting delays under medium to heavy system loads. Also, it is superior to aggressive out-of-order scheduling in terms of maximum job waiting delays. Window-based job scheduling can improve both overall system performance and fairness (i.e., maximum job waiting delays) by adopting large lookahead job scheduling windows.     

基于用户会话的Web服务器应用软件的QoS技术分析

传统的Web服务器应用软件对客户的请求不加识别和区分，接收到一个请求便立即进行处理。因此，这种“一视同仁”的服务无法为高优先级的请求提供Web QOS保证。通过改进应用软件，Web服务器可以为不同的客户或请求提供Web QOS。其主要方法是将客户的HTTP请求进行分类，并且实现优先化调度、接纳控制、资源分配等机制。本文介绍了基于用户会话的Web服务器应用软件的QoS技术，并指出其中存在的缺陷。     

一种基于OSI应用层的Web群集负载平衡调序策略研究

本文总结了目前基于L7的Web群集负载平衡调度研究，分析了影响性能的主要因素，在估计Web负载时考虑了请求强度以及Web服务器自身的性能，提出了处理能力异构服务器群集的最小负载调度算法。在算法中还同时考虑了服务器在进入临界状态时性能急剧下降的因素，避免群集进入临界状态．新算法能较为准确地跟踪群集系统的负载，更好地
均衡分配负载。     

异构Web集群中的比例伸展因子区分服务

Web集群服务器已被广泛用来提高Web服务器的性能。如何保证Web服务的服务质量（QoS）是一个迫切需要解决的问题。区分服务已成为QoS研究领域中的一个焦点。本文分析了Web请求服务时间的数字特性，并使用M／G／1 FCFS排队模型对Web服务器及Web集群服务器进行了建模。在对模型进行分析的基础上，设计并实现了一种异构Web集群服务器中的比例伸展因子区分服务的方案，并提出了基于概率空间的请求调度算法。请求被分成多个类，无论系统的负载如何，系统确保每类请求的平均伸展因子与事先给定的参数成正比。实际测试表明，所设计的方案满足相对区分服务的可预测性和可控制性的要求。