公网数字集群系统的动态并发请求调度处理队列算法

针对公网数字集群系统高并发时吞吐量低、响应时间长、失败率高等问题，提出一种公网数字集群系统的动态并发请求调度处理队列（DCRSPQ）算法。首先建立请求失败率和平均响应时间的优化目标，利用请求的各类优先级系数得到每个请求的加权平均优先级；然后，采用K-means聚类算法，根据每个请求的加权平均优先级确定所属的优先级队列，将请求分类到不同优先级的队列中；最后，利用自适应资源反馈调整机制，将系统资源动态分配给各优先级队列处理器，同时动态改变各优先级队列的长度，实现各类请求的高效快速处理。仿真结果表明，与分层级赤字加权轮询队列调度（HDWRR）和基于队列长度的动态加权公平队列调度（DQLWFQ）等算法相比，DCRSPQ算法的平均响应时间能缩短23.8%以上，吞吐量可提高3.5%以上，请求成功率可提升0.4个百分点。DCRSPQ算法具有更低的平均响应时间、更高的吞吐量以及更好的请求成功率，在公网数字集群系统并发情形下能有效提升系统的处理效率。     

基于微服务架构FPGA云平台的并发请求调度机制

基于微服务架构的现场可编程门阵列（FPGA）云平台在被大规模推广后积累了许多用户。针对FPGA云平台存在大量用户并发请求的问题,建立一种基于优先级调度的自定义参数响应指数计算模型。将5个请求关键影响因素作为自定义参数,采用层次分析法确定各参数权重,根据响应指数函数计算各请求的响应指数。在该模型的基础上,设计一种高并发请求调度（HCRS）算法,通过响应指数阈值对请求类别进行划分,使得高优先级请求优先得到处理,次优先级请求加入先进先出队列等待,低优先级请求暂时挂起,从而缩短请求响应时间以及请求响应延时,缓解由高并发请求带来的硬件节点资源分配压力。在真实运营的FPGA云平台中实现该算法并在实际环境中进行测试,结果表明,在并发请求量相同时,与先来先服务调度算法相比,HCRS算法的平均响应延时降低29 074 ms,平均请求响应时间缩短12 605 ms,其在提升系统吞吐量与并发度的同时可以有效优化硬件节点资源利用率。     

基于目标规划的服务器集群系统请求调度模型

研究网络服务器,提高传输质量问题,随着计算机网络的飞速发展,对服务器集群的请求也大量增加.针对服务器集群系统中负载分配问题,建立了一种基于目标规划的异构服务器集群系统请求调度模型.对请求按其自身性质进行分类,再将服务器本身的性能作为约束条件,并把请求丢失率最小和不同能力的服务器处理不同数目的请求作为目标,从而建立目标规划模型,通过模型求解来解决请求调度问题,并进行仿真实验.仿真结果验证了模型算法的有效性,模型算法既能让服务器处理能力得到较好发挥,又满足了请求响应时间的要求,使整个服务器集群的处理能力得到较大提高,为设计提供了有效的依据.     

三值光学计算机中运算请求调度

三值光学计算机具有很多数据位资源使得它能并行处理多个运算请求,因此运算请求的调度就成了三值光学计算机监控系统中不可避免的问题。定义了三值光学计算机中运算请求的四种不同状态,给出了其转换关系;讨论了动态表调度技术,提出了适合三值光学计算机监控系统的运算请求调度策略,如立即调度策略、定时调度策略和基于优先级的先到先服务策略。在此基础上提出了定时调度算法,分析了其特点。在监控系统中实现了该调度算法,并进行了相关实验。实验结果表明该调度算法可行且正确。     

Web集群中的动态请求的分类调度策略

现有的请求调度策略应用于动态请求时容易导致集群节点间的负载失衡.针对动态请求,提出了基于分类的请求调度策略,根据URL模式对动态请求分类,同一类的请求具有相同的负载特性,然后用比较简单的轮转策略对各类请求进行调度,因而可以在不估计请求负载的情况下,很好地将负载均衡到了后端节点上.测试结果表明,使用该策略后,集群系统的吞吐量可以提高51.9%.     

一种基于请求大小的固态盘I／O调度算法

对于同类型的I／O请求,基于闪存固态盘的请求响应时间与请求大小基本呈线性比例关系,并且固态盘的读写性能具有非对称性。针对该特性,提出一种基于请求大小的固态盘I／O调度（SIOS）算法,从I／O请求平均响应时间的角度提高固态盘设备的I／O性能。根据读写性能的非对称性,对读写请求进行分组并且优先处理读请求。在此基础上首先处理等待队列中的小请求,从而减少队列中请求的平均等待时间。采用SLC和MLC2种类型的固态盘进行实验,在5种测试负载的驱动下与Linux系统中的3种调度算法进行比较,对于SLC固态盘,SIOS平均响应时间分别减少18．4％、25．8％、14．9％、14．5％和13．1％,而对于MLC固态盘,平均响应时间分别减少16．9％、24．4％、13．1％、13．0％和13．7％,结果表明,SIOS能有效减少I／O请求的平均响应时间,提高固态盘存储系统的I／O性能。     

一种共享存储视频服务器集群的请求调度策略

在VOD服务器集群中,对用户服务请求的合理调度是提高集群整体性能的关键技术之一.本文针对共享存储结构下的服务器机群,在请求调度算法LoadCache-rep基础上进行改进,提出一种基于视频节目点播集中度的调度策略,该策略通过将相近的点播请求调度至相同服务器上以充分利用服务器的缓存机制,同时兼顾均衡各服务器间的负载.并根据实时负载变化对请求进行迁移以消除VCR操作对负载分布的影响.仿真试验表明,该策略能有效提高视频服务器集群的运行性能.     

Web集群服务器中分发静态请求的调度算法

为分发静态请求提出一种自适应的基于文档大小的调度算法ADSB,它使用资源占用时间来衡量负载,并根据被请求文档的大小来分发请求,均衡各个后台服务器的负载;ADSB根据负载历史周期地预测即将到来的负载统计特性,并根据预测结果来调整算法的参数;由于有着目标位置特性,ADSB能获得很高的缓存命中率;因为实际静态文档的大小服从重尾分布,所以分发大小不同的文档到不同的服务器,使ADSB减小了小文档的平均响应时间,同时大文档也没受到明显的影响。实验表明,ADSB的性能优于已有的经典的调度算法。     

基于请求目标分类的Web QoS动态控制模型

针对目前通用的Web服务器上未实现有效的QoS控制的现状以及Web QoS控制灵活性不够、通用性不强、可扩展性不好等缺点,提出了一种基于请求目标分类的Web QoS动态控制模型,采用以控制响应时间为中心的动态控制策略,对HTTP请求进行基于目标分类的动态接纳控制以及动态的重配置处理。实验结果表明,该方法可以显著减少系统响应时间,并保证在高负载下的吞吐量的平稳性。     

最短响应时间优先请求分配算法的研究

分析了在分布式高性能防火墙中两种常用的请求分配算法,在此基础上提出了最短响应时间优先调度算法。仿真表明,该算法具有很好的调度效果和很高的稳定性。     

RDRP: Reward-Driven Request Prioritization for e-Commerce web sites

Meeting client Quality-of-Service (QoS) expectations proves to be a difficult task for the providers of e-Commerce services, especially when web servers experience overload conditions, which cause increased response times and request rejections, leading to user frustration, lowered usage of the service and reduced revenues. In this paper, we propose a server-side request scheduling mechanism that addresses these problems. Our Reward-Driven Request Prioritization (RDRP) algorithm gives higher execution priority to client web sessions that are likely to bring more service profit (or any other application-specific reward). The method works by predicting future session structure by comparing its requests seen so far with aggregated information about recent client behavior, and using these predictions to preferentially allocate web server resources. Our experiments using the TPC-W benchmark application with an implementation of the RDRP techniques in the JBoss web application server show that RDRP can significantly boost profit attained by the service, while providing better QoS to clients that bring more profit.     

An infrastructure for embedded systems using task scheduling

Task scheduling in heterogeneous environments such as cloud data centers is considered to be an NP-complete problem. Efficient task scheduling will lead to balance the load on the virtual machines (VMs) thereby achieving effective resource utilization. Hence there is a need for a new scheduling framework to perform load balancing amid considering multiple quality of service (QoS) metrics such as makespan, response time, execution time, and task priority. Multi-core Web server is difficult to achieve dynamic balance in the process of remote dynamic request scheduling, so it is necessary to improve it based on the traditional scheduling algorithm to enhance the actual effect of the algorithm. This article do research on the multi-core Web server, Focusing on multi-core Web server queuing model. On this basis, the author draws the drawbacks of the multi-core Web server in the remote dynamic request scheduling algorithm, and improves the traditional algorithm with the demand analysis. Not only it overcomes the drawbacks of traditional algorithms, but also promotes the system threads carrying the same amount of tasks, and promotes the server being always in a dynamic balance. On the basis of this, it achieves an effective solution to customer requests.     

异构服务器集群中基于请求分配的一种可扩展的负载均衡算法

传统的请求分配算法作为一种集中式的静态分配负载均衡算法,一直被认为存在分配不准确的缺陷[1],主要有两个原因:一是集中调度容易成为系统的连接瓶颈,二是静态分配时对各处理机的动态性能把握不够准确.本文针对这两个问题采用自适应的集中调度,使之具有可扩展性,并且严格根据各处理机的实时性能参数实施静态分配,使之适用于异构的服务器集群.     

High-Performance Resource Allocation and Request Redirection Algorithms for Web Clusters

With increasing richness in features such as personalization of content, Web applications are becoming increasingly complex and hence compute intensive. Traditional approaches for improving performance of static content Web sites have been based on the assumption that static content such as images are network intensive. However, these methods are not applicable to the dynamic content applications which are more compute intensive than static content. This paper proposes a suite of algorithms which jointly optimize the performance of dynamic content applications by reducing the client access times while also minimizing the resource utilization. A server migration algorithm allocates servers on-demand within a cluster such that the client access times are not affected even under sudden overload conditions. Further, a server selection mechanism enables statistical multiplexing of resources across clusters by redirecting requests away from overloaded clusters. We also propose a cluster decision algorithm which decides whether to migrate in additional servers at the local cluster or redirect requests remotely under different workload conditions. Through a combination of analytical modeling, trace-driven simulation over traces from large e-commerce sites and testbed implementation, we explore the performance savings achieved by the proposed algorithms.     

一种新颖的带模糊截止时限的磁盘调度算法

设计了一种新的基于截止时限的磁盘调度算法,该算法支持带多优先级的请求。对于某些实时要求,其截止时限是不确定的或者不精确的,该算法采用模糊集来描述这类不确定性,模糊截止时限的隶属度函数表示对请求完成时间的满意程度。调度的目的是最优的指定优先级,使得截止时限的满意程度最大化。根据请求截止时限的不同,把满意程度划分为若干连续的区间。在每个不同的区间内,每个请求都对应有修正的截止时限,把请求按照其修正的截止时限非减的顺序分配优先级,才能实现请求优先级的最优配置。仿真结果表明该算法能有效的分配请求的优先级,降低请求的丢失率,保证了更多的请求得到满足。     

基于请求响应控制机制的数据调度策略

现有P2P流媒体系统的调度策略大多在请求端进行数据调度,在响应端则采用简单的先来先服务或最小时限优先响应的响应策略,其缺点是优先级较高的请求在响应时未必被优先响应。为此,综合考虑数据块的紧迫性、稀缺性以及请求节点的带宽,提出一种基于请求响应控制机制的数据调度策略(DSBRC)。与现有的数据调度策略相比,DSBRC提高系统上行带宽利用率,同时缩短节点启动时延和提高节点播放质量。     

多媒体服务器混合磁盘调度策略

基于多媒体服务器的性能要求，提出了一种自适应的混合磁盘调度策略DRT-window．它既能满足实时请求对实时性的要求，根据实时请求的截止期动态选择窗口大小；又能在其松弛度内尽努力(best-effort)地服务非实时请求，从而减少非实时请求的响应时间。DRT-window采用了两级层次调度方案：第一层为不同类型的请求采用各自适合的调度策略；第二层为混合请求调度嚣，混合调度第一层中的不同类型的请求。通过性能比较和理论证明，表明此混合磁盘调度策略能在保证实时请求无抖动执行的同时，尽量地减少非实时请求的响应时间。