基于集群的流媒体缓存代理服务器体系结构

提出了基于集群的流媒体缓存代理服务器体系结构,并将基于内容的前端机负载平衡调度策略引入到流媒体缓存代理服务器的架构设计中,对系统设计原理及各组成模块结构和各模块间的消息通信机制进行了详细的分析阐述,主要采用C和C++语言在Linux操作系统下实现了原型系统,通过对原型系统进行测试,表明整个系统设计合理,性能突出,具有良好的稳定性和可扩展性。     

基于后缀动态多缓存协作的流媒体分发技术

在Internet上高效传输流媒体数据是推广诸如视频点播等应用的基础．现有方案仅考虑了采用单代理结构的前缀缓存和服务器调度来降低骨干网带宽消耗和服务器负载．在带前缀缓存的Batch patching基础上提出了后缀的动态缓存算法ICBR，并提出了基于ICBR缓存算法的多缓存协作体系结构及协作算法MCC，仿真结果表明，基于ICBR的多缓存协作显著地降低了获取补丁而导致的骨干网带宽的消耗，提高了客户端QoS同时也降低了服务器负载．     

具有高缓存写入效率的流媒体分段缓存方法

流媒体代理服务器缓存是能有效降低网络传输负载的技术．长时间持续和大传输码率的两个流媒体访同特点使得流媒体代理服务器面临的负载问题十分严峻．流媒体缓存方法是流媒体代理服务器的核心组成,其引发的缓存写入操作数量对代理服务器负载有着重要的影响．文中从流媒体缓存的执行特点人手,给出了一种高网络传输减少效果和低缓存写入负载的流媒体分段缓存方法．缓存写入与访问热度相结合是该缓存方法的主要特点．在实验测试中证明了该缓存方法相比目前减少网络传输最好的Adaptive ＆ Lazy缓存方法能减少2／3的缓存写入负载,并能获得同样的网络传输减少效果．     

一种用于流媒体的附网缓存方案

网络缓存是提高流媒体服务质量的一种有效方法，但现有的代理缓存技术并不能很好地适用于流媒体。基于附网存储技术提出了一种用于流媒体的附网缓存方案。通过将流媒体缓存到作为附网存储设备的缓存服务器上，并由之为后来的用户请求提供服务，可以缩短启动延迟，减轻代理服务器负载和远程网络负载。同时，还讨论了与附网缓存相关的设计问题。     

一种HTTP代理服务器的设计与实现

提出了一种高性能的HTTP代理服务器的设计方案。介绍了HTTP代理服务器基本工作原理，代理服务器的总体设计框架和其中采用的用以提高性能的关键技术、进程池技术和缓存机制以及核心模块的具体实现流程。     

基于可扩展视频服务器集群的视频点播系统设计

随着计算机技术和高速网络技术的发展,视频点播系统已变成现实,并且具有巨大的潜在需求。利用视频对象简介能够给用户一个友好的互动收视环境。可扩展视频服务器集群可以适应未来的用户需求的快速增长。视频对象分段技术和前缀缓存技术使视频文件按照一定的缓存策略以分段方式分布在协作式的缓存服务器集群中,以利于服务器集群的负载平衡和减少对用户的启动延迟。系统还引入了IP组播技术来减少对网络带宽的开销。该文提出了混合式的协作缓存和IP组播的方式交付视频对象,并描述了它是如何工作的。     

Web对象可缓存性研究及加速方案

讨论了Web缓存的一般工作原理,描述了Web对象可缓存性的判断方法.为减少不可缓存对象对系统效率的影响,提出了Web缓存技术的加速方案.对于不可缓存的Web对象的请求,直接发给相应的Web服务器,而不通过代理服务器转发,系统的效率可以得到一定程度的提高.     

针对固定码率(CBR)流媒体的动态替换算法(DRA)

流媒体代理服务器缓存是针对流媒体访问的一项技术,能有效的提高流媒体访问质量。缓存算法是缓存代理服务器的重要技术组成部分,包括缓存保存方式、替换算法及进入策略三个方面。文中将介绍一套针对固定码率(CBR)流媒体的缓存算法,在包含码率分级保存方法的同时,使用了包含流媒体缓存基本特性的动态替换算法(DRA,Dynamic Replication Algorithm)。     

自适应内容传输的时效性分析

随着不同类型的终端的出现,自适应内容传输成为一个热门的研究课题.代理服务器或者中间服务器,常用来实时产生"适合"的内容.这种方案在处理内容传输的适应性方面确实非常出色.然而,他们没有充分利用代理服务器的另一个重要的特性--缓存.讨论自适应内容的缓存,缓存的对象是JPEG2000,使用的代理服务器支持部分内容的缓存,而且可以实现对后续请求的拷贝品质的自适应增量.通过对对象察觉时间的测量,得到结论:在添加了部分内容缓存之后,系统的性能大幅提高.     

机群代理的单一缓存映像技术

为了在Web机群代理中有效定位缓存对象在节点机中的位置，必须实现单一缓存映像，以隐藏机群的分布和异构特性，为客户提供一致的缓存资源。为解决该问题，文中首先提出一个缓存摘要管理器体系结构，该结构基于各个缓存节点机的摘要、结合负载平衡信息，可有效定位缓存节点机，然后给出了机群代理中缓存节点机与缓存摘要管理器的实现方法。     

Web集群系统负载均衡策略分析与研究

Web集群技术是解决Web服务器系统容量和伸缩能力的重要方法。该文分析了影响Web集群系统性能的主要因素,并提出了一种基于内容的负载均衡算法。该算法以加权负载量来评估服务器负载状态,并通过保证负载局部性来提高cache命中率,从而获得好的负载均衡效果。仿真实验证明,该算法具有较好的适应能力和伸缩性。     

基于云平台的高并发WebGIS服务

随着Internet技术的发展,传统的WebGIS服务器在面对大用户群高并发访问时会出现服务延迟甚至拒绝服务的现象.针对该问题,本文提出了一种基于云平台的应对高并发的WebGIS服务器架构.架构使用云平台为WebGIS服务器提供弹性计算和存储资源,并从负载均衡、缓存设计、数据库集群三方面缓解高并发瓶颈.选择开源服务器端软件GeoServer作为WebGIS应用实验部署.实验数据表明使用缓存机制明显降低了WebGIS服务响应时间.与单物理服务器相比,云平台WebGIS服务器集群架构能够有效处理高并发请求,且随着集群规模扩展,云平台WebGIS系统能够获得良好的加速比.     

基于内容识别的Web集群负载均衡算法的研究

可扩展Web服务器集群是目前高性能网络服务器的主要架构方法,负载均衡技术是集群系统中任务分配的核心环节.提出了一种基于内容识别的负载均衡算法,引入了访问量阈值的概念,并通过动态的修正访问量阈值以适应网络负载的变化;利用动态反馈机制来获取服务器的负载状态,同时通过保证负载的局部性,减少相同内容在多个服务器中的重复缓存,提高服务器Cache的命中率.     

基于内容的网络集群负载平衡算法模型

在论述网络集群负载平衡算法的基础上,基于内容分类的方法,给出基于内容的网络集群负载平衡算法三元组模型。请求分类有利于提高缓存命中率,调度机制说明如何适当地转发请求,动态反馈避免将请求分配到重载的服务器,进而分析了调度机制的八种调度策略和六种基于内容的调度转发技术。该模型利用缓存内容来提高集群的吞吐量和响应时间,可部署多种服务类型。     

Multimedia Caching Strategies for Heterogeneous Application and Server Environments

In a multimedia system, storage and bandwidth are critical resources since any presentation requires a large volume of data to be delivered in real-time. Caching of multimedia documents in local storage can alleviate large retrieval bandwidth requirements. An important requirement for a multimedia caching policy is to guarantee continuous delivery even when a stream is served from cache. It should also cope with dynamic changes in workload and heterogeneity arising from large and small multimedia files. The proposed Generalized Interval Caching (GIC) policy, that caches intervals between successive streams of a large file as well as entire small files, satisfies all the above criteria. A caching policy needs to cope with additional challenges in a large scale distributed multimedia environment consisting of many heterogeneous servers. The issues include a) routing of requests to ensure good cache hits in each server, and b) balancing of loads across servers. For routing of requests, we introduce the notion of an asset group and propose an affinity routing policy based on this concept. Finally, we adapt the GIC policy for load balancing across servers.     

Self-Organized Load Balancing in Proxy Servers: Algorithms and Performance

Proxy servers are common solutions to relieve organizational networks from heavy traffic by storing the most frequently referenced web objects in their local cache. These proxies are commonly known as cooperative proxy systems and are usually organized in such a way as to optimize the utilization of their storage capacity. However, the design of the organizational structure of such proxy system depends heavily on the designer's knowledge of the network's performance. This article describes three methods to tackle this load balancing problem. They allow the self-organization of proxy servers by modeling each server as an autonomous entity that can make local decisions based on the traffic pattern it has served.     

Research on scheduling algorithms in Web cluster servers

This paper analyzes quantitatively the impact of the load balance scheduling algorithms and the locality scheduling algorithms on the performance of Web cluster servers,and brings forward the Adaptive_LARD algorithm.Compared with the representative LARD algorithm,the advantages of the Adaptive_LARD are that:(1)it adjusts load distribution among the back-ends through the idea of load balancing to avoid learning steps in the LARD algorithm and reinforce its adaptability;(2)by distinguishing between TCP connections accessing disks and those accessing cache memory,it can estimate the impact of different connections on the back-ends‘load more precisely.Performance evaluations suggest that the proposed method outperforms the LARD algorithm by up to 14.7%.     

Design and implementation of an efficient web cluster with content-based request distribution and file caching

We have implemented an efficient and scalable web cluster named LVS-CAD/FC (i.e. LVS with Content-Aware Dispatching and File Caching). In LVS-CAD/FC, a kernel-level one-way content-aware web switch based on TCP Rebuilding is implemented to examine and distribute the HTTP requests from clients to web servers, and the fast Multiple TCP Rebuilding is implemented to efficiently support persistent connection. Besides, a file-based web cache stores a small set of the most frequently accessed web files in server RAM to reduce disk I/Os and a light-weight redirect method is developed to efficiently redirect requests to this cache. In this paper, we have further proposed new policies related to content-based workload-aware request distribution, in which the web switch considers the content of requests and workload characterization in request dispatching. In particular, web files with more access frequencies would be duplicated in more servers’ file-based caches, such that hot web files can be served by more servers. Our goals are to improve cluster performance by obtaining better memory utilization and increasing the cache hit rates while achieving load balancing among servers. Experimental results of practical implementation on Linux show that LVS-CAD/FC is efficient and scales well. Besides, LVS-CAD/FC with the proposed policies can achieve 66.89% better performance than the Linux Virtual Server with a content-blind web switch.     

基于Web内容的集群服务器请求分配系统的研究与实现

随着基于Internet上的Web应用服务迅速发展，提供高性能、高可靠性和高扩展性的各种Web服务已成为用户的迫切需求。通过对现有的请求分配策略的分析，提出一种综合考虑后端服务器的缓存局域性的基于Web请求内容的集群服务器负载分发策略的设计与实现。     

网格服务器性能优化系统研究与实现

为了提高网格服务器的性能，研究和设计了基于分配器的网格服务器性能优化系统，并实现了一个原型系统——集群式网格服务器．该原型系统能够集成多个网格处理服务器的处理能力，提供一个单一映象的网格服务．在这些服务器上实现负载平衡，并通过分配器统一对外提供网格服务．测试并分析了CGSS系统的性能测试结果．测试结果表明，基于分配器的性能优化能够显著的提高网格服务器系统的性能．