服务网格性能优化关键技术研究

服务网格(Service Mesh)是用于处理服务间通信的专用基础设施层.为了有效提升其性能,从并发处理模型和交互协议两个方面研究服务网格的性能优化方法,分别提出基于Reactor设计模式的服务网格高并发处理模型和面向服务网格的轻量级、自定义的代理交互协议,并实现一个服务网格原型系统.通过实验与当前主流的开源服务网格系统Linkerd和Envoy进行性能对比分析,实验结果表明该方法能够显著提升服务网格的并发处理性能,使实现的原型系统在并发处理和通信方面都有良好的性能表现.     

一种基于GMA结构的开放式网格资源信息服务

网格是把广域网上大量分布、异构资源进行整合，实现统一视图和统一访问接口的基础设施．资源信息服务在网格中具有重要地位，其作用是感知和监控异构资源，并为上层应用提供资源信息，从而为资源调度和选择系统策略提供依据．传统的主机监控不能适用于网格，现有的网格资源信息服务也存在一定缺点．通过分析网格资源信息服务的一般要求，针对现有系统的不足，基于GGF提出的GMA体系结构，从几个不同方面提出了更适合网格特点，开放性和互操作性较好的改进方案，最后，一方面对资源信息服务的性能策略进行了讨论和理论分析，另一方面以目前实现的原型系统GridEye为基础，进行了资源信息服务的性能测试实验，并对结果进行了分析．     

并行虚拟文件系统客户端缓存技术研究与实现

缓存技术是一种提高文件系统性能的关键性技术．在并行文件系统中实现客户端缓存，既能够减轻集群服务器系统的通信负载，又能有效地提高文件系统的性能．对PVFS并行文件系统进行了分析，建立了客户端缓存模型，就客户端缓存实现的一些关键性问题，如一致性、查找、替换等进行了研究，给出了解决方案，并在此基础上实现了一个客户端缓存的原型系统．测试结果表明，加入缓存后，PVFS整体性能有明显的提高．     

面向网格的可视化系统研究

科学计算可视化是数据和计算密集型应用，传统上常使用并行方法处理．随着计算机硬件性能的提高和网络技术的进步，主流并行可视化平台从高端并行机逐渐转变为PC集群和联网PC并始面向互联网获取资源和提供服务，格作为面向互联网的分布式计算方式，它的出现拓展了可视化应用的资源利用和服务提供范围，促生了可视化领域的一个新研究点：面向网格的可视化．介绍了面向网格的可视化的研究内容、研究现状以及一个基于Java的面向网格可视化系统原型GVis．     

基于G1obus网格服务的作业调度的实现

为了实现作业调度系统的均衡分布,提高资源利用率和系统的吞吐率,通过对网格服务的研究,设计并实现了一种基于Globus网格服务的作业调度系统.提出了网格服务的模式,给出了作业调度系统的结构形式;设计并实现了一种综合考虑作业数、各结点性能以及当前负载情况的作业调度分配器系统.实验结果表明,此分配器系统能有效改善作业的分配和调度,大大提高分布式网络资源的利用率.     

基于Globus网格服务的作业调度的实现

为了实现作业调度系统的均衡分布,提高资源利用率和系统的吞吐率,通过对网格服务的研究,设计并实现了一种基于Globus网格服务的作业调度系统。提出了网格服务的模式,给出了作业调度系统的结构形式;设计并实现了一种综合考虑作业数、各结点性能以及当前负载情况的作业调度分配器系统。实验结果表明,此分配器系统能有效改善作业的分配和调度,大大提高分布式网络资源的利用率。     

AnyQuery:网格环境下基于服务的分布式查询处理系统

AnyQuery是一种适用于网格环境、基于服务的分布式查询处理系统，使用统一的数据格式（可扩展标记语言）来表示和传输数据，所有组成模块以网格服务的形式实现，网格服务之间通过标准的接口进行通信．这种接口和实现分离技术屏蔽了不同数据库及其运行节点的差异，为用户提供一致的虚拟关系数据视图和分布式数据查询支持．在分析和研究已有的并行数据库和分布式数据库查询技术的基础上，AnyQuery提出和实现了一种适用于动态网格环境的分布式查询计划生成和执行算法，该算法能够根据网格环境中各节点及其连接网络的实际情况确定查询计划，支持跨数据库的连接查询．基于Globus 3．0开发了AnyQuery的原型系统，性能测试表明该系统具有较好的可扩展性，尤其适合计算密集型的复杂查询．     

DCFS2的元数据一致性策略

随着集群应用对机群文件系统的性能、容量和规模等需求的日益增长,采用多元数据服务器是机群文件系统发展的必然趋势．基于多元数据服务器的分布式元数据处理是文件系统研究的一个重要问题．机群文件系统DCFS2采用分布式日志技术和改进的两阶段提交协议解决了分布式元数据处理下元数据的一致性问题．性能测试结果表明,DCFS2所采用的基于分布式日志的元数据处理策略能够提供高的I／O性能,并能够保证在元数据服务器失效后文件系统快速恢复．     

网格环境下基于服务的分布式查询处理机制研究

OGSA-DQP是一种用于网格环境、基于服务的分布式查询处理系统,实现了运行在不同平台的分布式数据密集型应用的高级数据访问与集成服务方法,为用户提供一致的虚拟关系数据视图和分布式数据查询支持。文章描述了其体系结构、分析了其查询和优化机制,并在不同条件下测试了查询性能,为寻找系统查询性能瓶颈、提高系统查询响应时间提供依据。     

分配器上支持QoS的设计与实现

为了让Web集群服务器支持QoS，在分配器上实现了一些QoS的机制，包括区分服务、性能隔离、服务器动态划分、接纳控制和内容自适应。对于高优先级的请求，系统确保其服务质量满足事先商定的服务质量协议；对于低优先级的请求，系统提供尽力而为的服务。尤其，当服务器重载时，分配器不是简单地靠丢弃请求，而是采用内容自适应机制来防止服务器过载。实际测试表明，系统达到了所有的设计要求。     

LVS负载均衡调度算法的改进及实现

采用服务器集群架构提供服务成为互联网服务业中普遍采用的策略,目前使用得比较广泛的网络负载均衡集群是Linux虚拟服务器集群。优秀的负载均衡算法可以将用户请求合理地分配到集群中的真实服务器中．提高集群中服务器的利用率和集群系统的吞吐量。针对LVS默认算法WLC算法的不足之处,对WLC算法进行改进．设计并实现一种基于反馈式的负载均衡算法。实验证明,改进算法能够增大集群的吞吐量,提升集群的整体性能。     

基于AHP的Web集群系统负载均衡算法

利用集群技术构建的服务器组在资源利用率上存在较大差异。为此,提出基于层次分析法(AHP)的集群系统负载均衡算法,建立判断矩阵,得到各项评估指标的单项和综合权重。调度器定时接收真实服务器上的4类参数：网络性能,服务器硬件,服务器软件和网络服务类型。根据调度器收到的每一个连接请求,采用动态反馈算法选择负载最小的服务器响应连接请求。实验结果表明,该算法能减少服务器平均响应时间,有效提高集群系统的响应率。     

基于Nginx负载均衡的动态改进算法

随着过去几十年互联网服务的指数增长,各大网站的访问量急剧上升。海量的用户请求使得热门网站的网络请求率可能在几秒钟内大规模增加。一旦服务器承受不住这样的高并发请求,由此带来的网络拥塞和延迟会极大地影响用户体验。负载均衡是高可用网络基础架构的关键组件,通过在后端引入一个负载均衡器,将工作负载分布到多个服务器来缓解海量并发请求对服务器造成的巨大压力,提高后端服务器和数据库的性能以及可靠性。而Nginx作为一款高性能的HTTP和反向代理服务器,正越来越多地应用到实践中。文中将分析Nginx服务器负载均衡的体系架构,研究默认的加权轮询算法,并提出一种改进后的动态负载均衡算法,实时收集负载信息,重新计算并分配权值。通过实验测试,对比不同算法下的负载均衡性能,改进后的算法能有效提高服务器集群的性能。     

智能电网系统中费控服务的优化调度研究

智能电网系统中,费控指令通过应用服务器集群被下发到前置服务器集群,再通过前置服务器集群被下发到终端,终端接收到指令后将指令下发到特定的智能电表.在这个过程中,应用服务器集群和前置服务器集群的可用资源不对等,导致负载不均衡,影响费控服务执行的效率和成功率;前置服务器集群中前置机与终端的固定匹配方式,容易导致前置服务器集群负载不均衡,延长了费控指令完成时间,降低了费控服务的执行效率.为此深入研究费控指令的下发过程,分析存在的问题和瓶颈,提出了一种基于负载预测和负载均衡的费控服务优化调度模型.该模型首先提出一种基于时间序列的负载预测方法,实现服务器负载的预测;基于预测负载,提出一种费控指令的均衡下发算法,为不同负载的服务器下发合适规模的费控指令,以提高指令下发的效率和成功率;针对前置服务器集群可能出现的负载不均衡,提出一种基于图聚类的终端均衡布局算法.实验结果表明,本文提出的费控服务优化调度模型,均衡了两个集群和终端之间的负载,有效提高了费控指令下发的效率和成功率.     

一种基于网络地址转换的负载均衡算法

本文探讨集群服务器使用的负载均衡技术及负载分配的策略,并将网络地址转换应用于VOD集群,将负载分给多个服务器分担,以解决VOD集群服务器面临的大量并发访问造成的CPU或I/O的高负载问题。为了达到最佳的负载均衡效果,负载均衡器需要根据各个服务器的当前CPU和I/O状态来分配负载,这就需要动态监视服务器的负载,并应用优化的负载分配策略,达到平均分配负载的目的。     

基于动态权重的一致性哈希微服务负载均衡优化

随着互联网技术的发展,互联网服务器集群的负载能力正在面临着前所未有的挑战,实现合理的负载均衡策略尤为重要。为了使负载均衡达到最佳的效率,可以使用一致性哈希算法来对集群负载均衡系统进行负载分配。针对微服务架构的服务器集群场景,对该集群负载均衡的特性进行分析,提出一种基于虚拟节点的一致性哈希环的设计与分割方法及基于动态权值的分配策略,在一致性哈希算法的基础上,实现服务集群之间的负载转移,解决微服务集群中服务负载增多,导致服务之间负载不均衡的问题,防止其中某些服务因为负载压力过大,导致服务崩溃的问题。经实验表明,与传统的一致性哈希算法相比,改进后的负载均衡策略负载不均衡的概率是原来的31%;并且动态分配策略具有良好的负载均衡性能,有效地解决了微服务分布式架构的负载均衡问题。     

一种两阶段自适应的IMS-Based IPTV应用服务器负载均衡策略

随着IPTV用户数目的增长,IPTV应用服务器的负担愈加繁重。在这种情况下,集群系统逐渐成为构建高性能和高服务质量的一种有效的应用服务器体系结构。保证应用服务器各节点的负载均衡,可以有效提高系统的吞吐量,提高IPTV服务质量。针对负载均衡问题,提出了一种基于IPTV用户行为特点的,两阶段自适应负载均衡策略,负载均衡器通过实时监控应用服务器集群内各节点的负载情况,动态修改各节点负载分配权值。算法在保持应用服务器各节点负载均衡的同时,维护用户会话的完整性,保证了服务质量QoS（Quality of Services）。仿真结果显示此算法具有较好的性能,能在保证服务质量的前提下有效地提高系统吞吐量。     

集群系统中自适应负载反馈平衡策略的研究

当前在集群系统中，负载平衡策略虽然很多，但是为了减少反馈开销，一般策略为采用在前端估计后端负载，所以不能很好地完成负载平衡的任务。针对这一问题，提出了一种自适应负载反馈平衡策略，各个服务器根据自身负载的变化来决定负载反馈的时机，前端根据负载信息和请求率计算出各个服务器的负载权值，最后根据负载权值来调度服务器处理请求，以实现负载平衡。由于采用了自适应的反馈策略，在获得各个服务器负载信息的同时减少了负载反馈的开销，实现了系统的负载均衡。测试结果表明该策略表现出了一定的优势。     

基于云平台的高并发WebGIS服务

随着Internet技术的发展,传统的WebGIS服务器在面对大用户群高并发访问时会出现服务延迟甚至拒绝服务的现象.针对该问题,本文提出了一种基于云平台的应对高并发的WebGIS服务器架构.架构使用云平台为WebGIS服务器提供弹性计算和存储资源,并从负载均衡、缓存设计、数据库集群三方面缓解高并发瓶颈.选择开源服务器端软件GeoServer作为WebGIS应用实验部署.实验数据表明使用缓存机制明显降低了WebGIS服务响应时间.与单物理服务器相比,云平台WebGIS服务器集群架构能够有效处理高并发请求,且随着集群规模扩展,云平台WebGIS系统能够获得良好的加速比.     

Web集群系统负载均衡策略分析与研究

Web集群技术是解决Web服务器系统容量和伸缩能力的重要方法。该文分析了影响Web集群系统性能的主要因素,并提出了一种基于内容的负载均衡算法。该算法以加权负载量来评估服务器负载状态,并通过保证负载局部性来提高cache命中率,从而获得好的负载均衡效果。仿真实验证明,该算法具有较好的适应能力和伸缩性。