Web服务器系统中基于反馈控制的比例延迟保证

随着Web应用在商业领域的广泛使用，Web服务器系统需要在高负载下提供区分服务，以满足用户的不同需求。为实现以延迟作为评价指标的区分服务，本文在Web服务器系统的连接管理和请求处理两个层次建立了基于反馈控制的比例延迟保证模型。模型中的反馈控制器通过动态计算和调节不同类别客户占用的资源：（服务线程和数据库连接），能保证高优先级的客户较快得到服务而不同类别客户的平均延迟比保持不变。为测试闭环系统的性能，设计了两种分别服从均匀分布和重尾分布的动态负载。仿真结果表明，即使并发客户连接的数目剧烈变化，控制器作用下的服务器系统仍然能够达到较好的比例延迟保证，可靠地为用户提供区分服务。     

Web服务器中基于自适应控制的成比例延迟区分服务

Internet上Web应用日益广泛的使用,使得Web服务器需要在高负载下提供性能保证与区分服务,以满足用户的不同需求。响应延迟是评价Web服务器的一项关键性能指标,而成比例延迟区分服务是一种重要的区分服务模型。针对Apache Web服务器,提出并实现了基于自适应控制的成比例延迟区分服务。在每个采样周期,自适应控制器根据预设的延迟区分参数,通过动态计算并调节各个客户类别的服务线程数目,可保证Apache Web服务器上高优先级客户具有较低的平均连接延迟,而各个客户类别的平均延迟比保持不变。仿真结果表明,在动态变化的负载、参考输入以及不同的系统配置之下,控制器作用下的Apache Web服务器都能可靠地提供成比例延迟区分服务。     

DTN Web服务器基于自适应控制的成比例延迟区分服务

DTN网络的出现为未来的Internet应用提供了一种全新的平台,在DTN网络上部署支持服务区分服务的Web服务器方面的研究仍为空白。首先设计了一种支持区分服务的DTN Web服务器,并在其上实现了基于自适应控制的成比例延迟区分服务。自适应控制器根据预设的延迟区分参数,通过动态计算并调节各个客户类别的服务线程数目,可保证DTN Web服务器上高优先级客户具有较低的平均连接延迟而各个客户类别的平均延迟比保持不变。仿真结果表明,在动态变化的负载、不同的负载分布以及变化的参考输入之下,控制器作用下的DTN Web服务器都能可靠地提供成比例延迟区分服务。     

基于自校正分散控制的Web服务器比例延迟保证

Apache Web服务器一般采用单变量模型,处理多优先级延迟保证时需多次建模,可扩展性不佳。为此提出一种Web服务器多输入多输出(MIMO)模型,并结合分散控制理论和自校正控制(STC)理论设计分散自校正控制器。该控制器动态调节处理不同优先级请求的工作线程数目,能保证较高优先级请求更快得到处理且维持不同优先级请求的平均延迟比为设定值,模型和控制器参数根据在线辨识结果实时更新。仿真表明,过载情况下即使并发客户连接数目急剧变化,闭环系统中的服务器仍能维持较好的比例延迟保证。     

相对延迟保证在Apache服务器上的实现

基于反馈控制的理论,针对Windows平台下Apache服务器的MPM模型,设计了一个反馈控制器。控制器通过动态调整不同类型客户的服务线程比例,保证了高优先级客户较快得到服务器响应而不同类型客户的延迟比不变,从而实现了Apache服务器的相对延迟保证。测试结果表明,即使在客户数量急剧变化的情况下,改进后的服务器仍然能够达到较好的相对延迟保证。     

Web QoS中的预测控制与比例延迟保证

控制理论已被应用于Web服务器中,以改进其QoS性能。但当Web负载剧烈变化时,已有的基于反馈的比例延迟控制的实时性往往不佳。分析了HTTP1.1请求页面中嵌入URL的个数和嵌入文件大小的重尾特征,根据Web服务器的排队特性以及HTTP1.1持续连接的特点,通过不同优先级等待队列的长度来预测排队延迟,从而调整相应的服务线程配额,实现相对比例延迟保证。实验证明,这种方法取得了良好的效果,显著提高了系统的动态性能。     

基于自适应模糊控制的Web带宽区分服务

基于线程/进程分配的Web区分服务策略仅仅关注连接延迟,而在服务器带宽受限的情况下,由于处理延迟成为客户端总延迟的主导部分,因此区分效果很差.提出的基于带宽调节的区分服务策略,通过两级自适应模糊控制,调整服务于不同优先级请求的虚拟主机的带宽配额,从而控制处理延迟,实现比例延迟保证.经稳定性分析与实验验证,这种方法取得了良好的效果,相对于静态模糊控制,其延迟比与期望值的方差减少了40%.     

区分服务在多层Web应用中的实现

通过对三层服务器的构架分析,突破了常用的传递函数方法,建立了基于区分服务的MIMO系统状态空间模型,并在此基础上应用控制理论中的极点配置和状态反馈方法设计控制器,对不同优先级在不同Web层次上进行资源分配,实现其比例延迟保证。实验证明,原系统可近似为一组低阶线性方程,且在所设计的控制器作用下可达到良好的区分效果。     

Web服务器上比例延迟保证的自适应控制方法

针对Web服务器一般采用离线辨识,使其反馈方法在Web QoS控制上应用的实时性往往不佳,提出了一种Web服务器自适应参考模型。该模型通过在线辨识,根据对象模型的变化及时更新模型参数和控制器参数,以尽快减小系统误差。最后,通过MATLAB仿真和实际网络测试表明,该控制器不仅在恶劣的网络环境下可维持较好的比例延迟保证,且相比于传统的控制方法具有一定的优越性。     

Web服务组合系统研究综述

随着Web服务组合技术的发展,基于组件Wcb服务构建的复杂服务的相关系统也越来越多。随之而来的问题是如何选择适合Web服务组合系统构建需要的组合服务。近来,基于不同技术的服务组合工具系统越来越多。简要介绍了Web服务组合的相关技术,给出了通用Web服务组合系统的功能分析模型,并根据该模型对12个Web服务组合系统所具有的功能进行分析、对比,最后以表格形式给出结果。     

Feedback Control Architecture and Design Methodology for Service Delay Guarantees in Web Servers

This paper presents the design and implementation of an adaptive Web server architecture to provide relative and absolute connection delay guarantees for different service classes. The first contribution of this paper is an adaptive architecture based on feedback control loops that enforce desired connection delays via dynamic connection scheduling and process reallocation. The second contribution is the use of control theoretic techniques to model and design the feedback loops with desired dynamic performance. In contrast to heuristics-based approaches that rely on laborious hand-tuning and testing iteration, the control theoretic approach enables systematic design of an adaptive Web server with established analytical methods. The adaptive architecture has been implemented by modifying an Apache server. Experimental results demonstrate that the adaptive server provides robust delay guarantees even when workload varies significantly.     

Connection management for QoS service on the Web

The current Web service model treats all requests equivalently, both while being processed by servers and while being transmitted over the network. For some uses, such as multiple priority schemes, different levels of service are desirable. We propose application-level TCP connection management mechanisms for Web servers to provide two different levels of Web service, high and low service, by setting different time-outs for inactive TCP connections. We evaluated the performance of the mechanism under heavy and light loading conditions on the Web server. Our experiments show that, though heavy traffic saturates the network, high level class performance is improved by as much as 25–28%. Therefore, this mechanism can effectively provide QoS guaranteed services even in the absence of operating system and network support.     

基于主动测试的HTTP业务性能分析

Web业务在当前Internet流量中占有重要地位,而网络路径对HTTP业务性能的影响直接决定了用户可察觉的Web服务器访问的响应时间和页面下载速率的差异．通过主动业务仿真方法,测量端到端路径HTTP业务的性能表现,分析了业务响应时间的构成与分布特征,发现对同一页面在不同时间访问的下载速率表现出高可变性,证明常用的基于均值一标准差的性能故障检测判别方法并不完全适用于该类性能参数,提出了基于盒式图的端到端路径HTTP业务性能故障检测算法．     

Web++ architecture,design and performance

We describe the design of a system for fast and reliable HTTP service which we call Web++. Web++ achieves high reliability by dynamically replicating web data among multiple web servers. Web++ selects the available server that is expected to provide the fastest response time. Furthermore, Web++ guarantees data delivery given that at least one server containing the requested data is available. After detecting a server failure, Web++ client requests are satisfied transparently to the user by another server. Furthermore, the Web++ architecture is flexible enough for implementing additional performance optimizations. We describe implementation of one such optimization, batch resource transmission, whereby all resources embedded in an HTML page that are not cached by the client are sent to the client in a single response. Web++ is built on top of the standard HTTP protocol and does not require any changes either in existing web browsers or the installation of any software on the client side. In particular, Web++ clients are dynamically downloaded to web browsers as signed Java applets. We implemented a Web++ prototype; performance experiments indicate that the Web++ system with 3 servers improves the response time perceived by clients on average by 36.6%, and in many cases by as much as 59%, when compared with the current web performance. In addition, we show that batch resource transmission can improve the response time on average by 39% for clients with fast network connections and 21% for the clients with 56 Kb modem connections. This revised version was published online in August 2006 with corrections to the Cover Date.