基于Cache内容价值的调度算法研究

现有Web代理Cache调度机制主要是基于传统的数据处理算法,为加快网络对用户请求的响应速度,文章提出了一种新的基于用户代理Cache内容和其内容的语义信息作为基础的层次数据模型,基于这种模型设计并实现了基于内容识别的Web代理Cache调度算法-CAOA算法,并通过实验对算法性能进行了验证。     

基于Web内容的集群服务器请求分配系统的研究与实现

随着基于Internet上的Web应用服务迅速发展，提供高性能、高可靠性和高扩展性的各种Web服务已成为用户的迫切需求。通过对现有的请求分配策略的分析，提出一种综合考虑后端服务器的缓存局域性的基于Web请求内容的集群服务器负载分发策略的设计与实现。     

调度系统中的信令分发器

在研究了 OpenSIPS 开源项目之后,设计并实现一个调度系统中的信令分发器,以解决目前调度系统中的系统规模收缩等问题。介绍了调度系统的应用及研究现状,分析了 OpenSIPS 的具体情况,描述了信令分发器的功能,阐述了信令分发器的设计与实现,最后通过实验验证了分发器的可用性。     

基于Cache优化的Web集群负载均衡算法

Web集群的caching优化对提高系统性能起重要作用。从基于caching优化的角度出发,以事务为一个完整的划分单元,形成Web集群的缓存集,提出了基于事务缓存优化策略,在此基础上给出了一种基于cache的负载均衡算法。     

基于集群的负载平衡调度算法研究与实现

在集群系统的负载调度研究中,针对请求的服务时间变化大的特点,该文提出了一个动态反馈负载平衡算法,它结合内核中的加权连接调度算法,根据动态反馈回来的负载信息来调整服务器的权值,从而有效地解决服务器问的负载不平衡问题,提高了系统的吞吐率。     

一种基于内容的Web服务器集群调度算法

基于内容的Web服务器集群调度算法具有很多优点.在分析已有方法基础上,提出一种部分复制的基于内容调度算法PRLARD(partially replicated locality-aware request distribution).理论分析和仿真结果表明,该算法具有良好的负载均衡能力和高的CACHE命中率.     

Web服务器集群中TCP Handoff技术及其实现

在传统的Web服务器集群系统中,前端分发器由于通过的数据量太大容易形成瓶颈,进而影响系统的整体性能。该文利用TCPHandoff技术,分散了通过前端分发器的绝大部分网络流量,解决了Web服务器集群中前端分发器的瓶颈问题。通过在Linux环境下的原型系统实现和实验数据分析,证明了该技术的有效性。     

基于内容分发的信息分发管理系统

在内容分发网络体系架构基础上,针对信息系统中通信服务需求与网络资源的矛盾,提出系统信息分发策略、内容分发流程、资源匹配与管理以及内容分发路由等信息分发管理概念和处理方法.基于业务信息不同的内容、类型和服务需求,采取相应的分发控制流程和管理方法,实现网络信息的按需分发及需求资源的合理匹配,为用户提供高效、稳定的内容服务,确保信息分发的实时性和服务质量.     

Web集群服务器中分发静态请求的调度算法

为分发静态请求提出一种自适应的基于文档大小的调度算法ADSB,它使用资源占用时间来衡量负载,并根据被请求文档的大小来分发请求,均衡各个后台服务器的负载;ADSB根据负载历史周期地预测即将到来的负载统计特性,并根据预测结果来调整算法的参数;由于有着目标位置特性,ADSB能获得很高的缓存命中率;因为实际静态文档的大小服从重尾分布,所以分发大小不同的文档到不同的服务器,使ADSB减小了小文档的平均响应时间,同时大文档也没受到明显的影响。实验表明,ADSB的性能优于已有的经典的调度算法。     

基于AHP的Web集群系统负载均衡算法

利用集群技术构建的服务器组在资源利用率上存在较大差异。为此,提出基于层次分析法(AHP)的集群系统负载均衡算法,建立判断矩阵,得到各项评估指标的单项和综合权重。调度器定时接收真实服务器上的4类参数：网络性能,服务器硬件,服务器软件和网络服务类型。根据调度器收到的每一个连接请求,采用动态反馈算法选择负载最小的服务器响应连接请求。实验结果表明,该算法能减少服务器平均响应时间,有效提高集群系统的响应率。     

基于内容识别的Web集群负载均衡算法的研究

可扩展Web服务器集群是目前高性能网络服务器的主要架构方法,负载均衡技术是集群系统中任务分配的核心环节.提出了一种基于内容识别的负载均衡算法,引入了访问量阈值的概念,并通过动态的修正访问量阈值以适应网络负载的变化;利用动态反馈机制来获取服务器的负载状态,同时通过保证负载的局部性,减少相同内容在多个服务器中的重复缓存,提高服务器Cache的命中率.     

Design and implementation of an efficient web cluster with content-based request distribution and file caching

We have implemented an efficient and scalable web cluster named LVS-CAD/FC (i.e. LVS with Content-Aware Dispatching and File Caching). In LVS-CAD/FC, a kernel-level one-way content-aware web switch based on TCP Rebuilding is implemented to examine and distribute the HTTP requests from clients to web servers, and the fast Multiple TCP Rebuilding is implemented to efficiently support persistent connection. Besides, a file-based web cache stores a small set of the most frequently accessed web files in server RAM to reduce disk I/Os and a light-weight redirect method is developed to efficiently redirect requests to this cache. In this paper, we have further proposed new policies related to content-based workload-aware request distribution, in which the web switch considers the content of requests and workload characterization in request dispatching. In particular, web files with more access frequencies would be duplicated in more servers’ file-based caches, such that hot web files can be served by more servers. Our goals are to improve cluster performance by obtaining better memory utilization and increasing the cache hit rates while achieving load balancing among servers. Experimental results of practical implementation on Linux show that LVS-CAD/FC is efficient and scales well. Besides, LVS-CAD/FC with the proposed policies can achieve 66.89% better performance than the Linux Virtual Server with a content-blind web switch.     

Web集群中基于接纳控制的QoS-aware请求调度算法

集群系统的设计主要涉及任务调度与资源调度两方面,以往的大部分算法都只是孤立地考虑其中一个方面。针对这种不足提出了一种基于接纳控制的QoS-aware动态请求调度算法。该算法结合网络自相似访问特征,引入接纳概率Pa作为连接任务调度与资源调度的桥梁,将两种调度结合了起来。Pa是一个以任务服务类别与负载为自变量的二元函数,随着负载的增加,Pa非增变化,对于不同QoS需求的队列,Pa的变化速率不同,这样就可以达到在不同负载情况下动态地为各服务类分配带宽的目的。最后通过仿真实验测试了结果。     

Web集群中基于负载均衡的QoS-aware请求调度算法

集群技术已成为目前提高网络服务质量的有效手段.集群系统的设计主要涉及任务调度与资源调度两方面,而现有的大部分算法都是只孤立地考虑其中一个方面.针对这种不足提出了一种基于负载均衡的QoS-aware请求调度算法,该算发引入一个以任务服务类别与负载为自变量的接纳概率二元函数Pa作为连接任务调度与资源调度的桥梁.Pa随着负载的增加,Pa非增变化,对于不同QoS需求的队列,Pa的变化速率不同,这样就可以达到在不同负载情况下动态地为各服务类分配带宽的目的.最后通过仿真实验验证了其正确性.     

ProxyServer中Cache的管理和使用

使用Ｃａｃｈｅ可以减少Ｂｒｏｗｅｒ的等待时间和降低代理服务器和Ｉｎｔｅｒｎｅｔ的通信量,本文主要介绍了Ｐｒｏｘｙ对Ｃａｃｈｅ管理和使用。     

VOD集群代理缓存系统中缓存技术的研究

在VOD集群代理缓存系统中,由于存在多个服务器节点,缓存在其上的合理分布能够极大地提高整个系统的缓存利用率,进而提高系统的整体性能,这就是缓存配置问题.现有缓存技术中动态缓存配置(DCR)算法中,部分影片缓存不充分,浪费了一部分缓存空间.针对该问题,提出了一种改进算法.算法以提高系统的缓存利用率并进而提高缓存命中率为目标,在放置过程中,对需要缓存的影片数据都进行充分放置.仿真实验表明,改进后的算法有较高的缓存命中率,因而,改进算法使缓存系统有更好的整体性能.     

Research on scheduling algorithms in Web cluster servers

This paper analyzes quantitatively the impact of the load balance scheduling algorithms and the locality scheduling algorithms on the performance of Web cluster servers,and brings forward the Adaptive_LARD algorithm.Compared with the representative LARD algorithm,the advantages of the Adaptive_LARD are that:(1)it adjusts load distribution among the back-ends through the idea of load balancing to avoid learning steps in the LARD algorithm and reinforce its adaptability;(2)by distinguishing between TCP connections accessing disks and those accessing cache memory,it can estimate the impact of different connections on the back-ends‘load more precisely.Performance evaluations suggest that the proposed method outperforms the LARD algorithm by up to 14.7%.     

Cache Profiling技术

如何减少和隐藏cache失效的延迟,是人们关注的热点。编译器为了得到cache访问命中的情况,往往使用模拟器去跑一遍来得到结果,这样的速度很慢。为了克服以上缺点,提出了在编译器中作cache profiling来获取cache访问的信息。类似于value profiling和stride profiling,cache profiling对访存指令作插装,可以有效地提高速度,并且只需要编译器的支持即可。Cache profiling获得的信息可以用来改进指令调度、软件预取、生成cache hint和辅助线程等。     

Cache结构的低功耗可重构技术研究

在分析Cache性能的基础上介绍了当前低功耗Cache的设计方法,提出了一种可重构Cache模型和动态可重构算法。Cache模型能够在程序运行过程中改变相联度和大小,动态可重构算法能够在运行时针对不同的应用程序对可重构Cache进行配置。通过对Cache的动态配置,不仅可以提高Cache命中率,还能够有效降低处理器的功耗。