天地一体化智能网络节点静态处理与缓存策略

天地一体化智能网络中的卫星节点具有计算、存储和传输能力,将内容副本缓存至传输路径上的卫星节点可提高网络缓存收益。针对卫星节点移动导致的路径改变问题,设计基于虚拟位置的卫星节点静态处理机制,先设定卫星的虚拟位置节点,再将内容副本提前向虚拟位置节点同一轨道的后方卫星节点进行缓存。在此基础上,提出基于ProbCache的轻量级分组缓存策略PBP,对路径节点进行分组并划分组内缓存区域,同时按照内容副本流行度阈值实现缓存位置迁移,使得流行度高的内容副本缓存至离请求节点近的区域。实验结果表明,与ProbCache、LCE和LCD等策略相比,PBP策略能有效降低缓存开销及提高内容副本的缓存命中率,具有更好的卫星网络传输性能。     

基于节点热度与缓存替换率的ICN协作缓存

信息中心网络默认的LCE缓存策略在数据包返回路径上的每个节点缓存内容,会产生大量冗余副本,无法充分利用缓存资源。针对该问题,提出基于节点热度与缓存替换率的缓存策略。在数据包返回路径上选择特殊节点缓存内容,考虑网络流量在不同区域和不同时间段内的差异性,周期性地计算节点热度和缓存替换率,并将其作为内容是否被缓存在节点上的度量指标。实验结果表明,相对于LCE和CLFM策略,该策略能有效降低平均请求跳数和源端命中率,获得较高的缓存收益。     

基于排队网络的网络服务器性能分析与优化

针对网络服务器在用户数量和状态相对复杂情况下无法对服务器性能进行有效分析的问题,提出了一种基于排队网络的服务器性能分析方法。该方法可以有效降低时间复杂度和空间复杂度,使服务器性能分析更加精确,效率更高。实验结果表明,利用该方法对服务器性能进行建模和分析,并根据分析结果对服务器程序进行优化,可以达到合理利用系统资源、提高服务器性能的要求。     

内容中心网络中基于节点相似度的协作缓存算法

针对内容中心网络中ALWAYS缓存策略节点存储空间利用率低、内容访问时延大、整体网络缓存性能低下的问题,提出了一种依据节点相似度的协作缓存算法。该算法优先将兴趣包转发至最相似节点,增大相关请求的就近响应概率;同时保证在缓存决策中的同一副本在协作节点间不重复存储,在降低冗余的同时增加了缓存多样性。实验结果表明,与现有算法相比,该算法在减少路由跳数和请求时延的同时提高了缓存命中率。     

基于内容热度与节点介数的NDN网络缓存策略

缓存技术是数据命名网络（Named data networking,NDN）的关键技术之一. NDN传统的LCE缓存策略会造成较大的冗余. 改进的RCOne策略采用随机放置的方法,没有利用任何内容、节点信息,对网络缓存性能的提升有限. Betw策略只考虑到节点介数,导致高介数节点缓存更替频繁,当节点缓存容量远小于内容总量时,缓存性能下降. 为了解决这些问题,本文提出一种结合内容热度与节点介数的新型缓存策略HotBetw（Hot content placed on node with high Betweenness）,充分利用内容与节点信息选择最佳的位置放置缓存. 仿真实验表明相对于典型NDN缓存策略,HotBetw缓存策略在提高缓存命中率、降低平均跳数方面具有很好的效果.     

网络缓存的零拷贝优化

数据的冗余拷贝是影响网络缓存软件性能的重要因素.本文详细分析了当前广泛使用的网络缓存程序Squid的数据拷贝流程,利用快速文件传输和数据流拼接两种策略在Linux平台上实现了squid的零拷贝优化.快速文件传输是将文件数据从文件系统内核缓存直接发送到远程主机,数据流拼接则是在网络协议栈内核缓存之间直接交换数据,二者都能够减少数据在内核空间和用户空间流动带来的冗余拷贝.实验证明,经过优化的Squid在主机CPU占用率和请求响应时间等方面的性能均有显著提高.     

信息中心网络内缓存替换算法性能分析与优化

信息中心网络(information centric networking, ICN)是一类受到广泛关注的新型互联网体系结构.通过对网络内(in-network)缓存的充分利用,信息中心网络可以极大地增强内容分发效率.网络内缓存的管理机制一直是信息中心网络研究中的热点问题.分析了网络内缓存的基准缓存替换最近最少使用(least recently used, LRU)算法的性能,指出多跳LRU缓存中广泛存在的“缓存退化”问题：在首个缓存节点发生缺失的内容请求也很难被下游的缓存命中.针对这一问题,提出一种基于预过滤的O(1)复杂度的改进算法.在原有缓存前放置一个仅记录内容标识的预过滤缓存,完成对原始内容请求的整形,使得预处理后的请求流量可以更容易被后面几跳缓存命中.基于真实互联网拓扑的实验表明,在信息中心网络典型应用场景下,预过滤LRU的缓存命中率可以达到LRU的2～3倍.     

稀疏机会网络中基于固定中继节点与消息相关性的缓存管理策略

针对稀疏机会网络中固定中继节点和移动节点间的相遇频率以及缓存资源的差异性问题,在多副本路由协议中,提出一种结合固定中继节点重要性和消息相关性的缓存管理策略。该策略通过交互固定节点和移动节点的接触信息和消息队列信息,减少固定中继节点缓存中冗余消息的数量,从而合理地利用固定中继节点的缓存资源。仿真结果表明,所提的缓存管理策略能够在保证消息传输成功率的基础上提高固定中继节点缓存空间的利用率。     

面向直播HTTP Streaming系统的HTTP缓存服务器行为优化

HTTP缓存服务器是提高HTTP Streaming系统客户并发量的关键环节。但当前主流HTTP缓存服务器,如Nginx、Squid、Varnish等,在缓存资源更新期间的行为都存在不足,当被应用在面向直播的HTTP Streaming系统中时,会周期性地把大量客户端请求转发至源服务器,从而制约了HTTP Streaming系统的可伸缩性。提出一种优化的HTTP缓存服务器在缓存更新期间的行为,即缓存服务器仅向源服务器转发一路客户端请求,缓存更新期间,拒绝其他关于该资源的请求。优化策略在使用最为广泛的Nginx服务器的基础上进行了实现。实验证明,优化后系统的伸缩性得到了显著提高。     

基于Cache锁和直接缓存访问的网络处理优化方法

通过分析计算机系统网络数据处理相关程序的访存行为、局部性特点和系统交互等问题,指出在高速网络环境下传统处理器网络子系统设计存在很大缺陷,并进一步提出一种基于软硬件协同设计的优化方案.该方案具体包括改进的直接缓存访问技术、关键程序的cache锁策略和相应系统互连结构及一致性协议等.实验表明,与传统方案相比,基于该方案的网络TCP传输带宽提高约48%,极限情况下UDP丢包率下降40%,传输延时降低超过10%.网络测试程序在与SPEC2000测试程序并发执行情况下,网络数据带宽提高约44%.此外还讨论了该优化方案与其他网络优化技术共同使用的基本原则和相应策略.     

基于缓存价值的命名数据网络缓存优化策略

为了解决当前命名数据网络（Named Data Network）中的传统缓存决定策略如LCE (Leave Copy Everywhere)、LCD (Leave Copy Down)、Prob (Copy with Probability)中存在的由于路由器缓存利用不合理导致的路由器缓存命中率过低,及满足用户请求所需跳数过多导致的时延过大等问题,提出一种基于缓存价值的缓存策略。该策略结合兴趣包路由跳数与所请求数据包大小,以及兴趣包所经过路由节点缓存情况,计算数据包缓存价值,由此将数据包缓存在合适的节点,以提高缓存命中率。在此基础上考虑下游节点的过滤效应,提出相对于传统缓存替换策略LRU、LFU的基于动态缓存价值的缓存替换策略,以进一步提高缓存命中率。经过大量仿真对比实验,验证了本文提出算法的有效性及可用性。     

Case Studies on Cache Performance and Optimization of Programs with Unit Strides

Cache performance in modern computers is important for program efficiency. A cache is thrashing if a significant amount of time is spent moving data between the memory and the cache. This paper presents two cache thrashing examples, one in scientific computing and one in image processing, both of which involve several one-dimensional arrays that are accessed sequentially, i.e., with unit strides. Accessing arrays in unit strides was considered very efficient on cache-based computer systems. However, the existence of cache thrashing is demonstrated by significant increases in computing speed in the equivalent programs tuned for cache locality. This shows that accessing several arrays sequentially may cause cache thrashing. Thus, to improve cache performance, it is important that the compiler or the programmer takes all arrays inside a loop into consideration. © 1997 by John Wiley & Sons, Ltd.     

缓存与迁移策略下对等网络节点负载控制算法

在非结构化对等(P2P)网络中,节点“搭便车”行为以及用户查询不均匀会造成网络节点负载分布严重失衡。为此,提出一种节点负载控制算法,采用缓存和链路迁移策略,将重载节点中的剩余负载向其他轻载节点转移,同时在链路节点中缓存网络中的热门文件资源。实验结果表明,在用户查询服从Zipf分布的环境下,该算法能使网络中节点负载达到较好的均衡,降低系统整体负载。     

片上多核处理器Cache一致性协议优化研究综述

现代晶体管技术在单芯片上集成多个处理器已经成为现实.近年来,随着多核处理器集成核数的不断增加,高速缓存的一致性问题凸显出来,已成为多核处理器的性能瓶颈之一,亟待解决.本文介绍了片上多核处理器一致性问题的由来.总结了多核时代高速缓存一致性协议设计的关键问题,综述了近年来学术界对一致性的研究.从程序访存行为模式、目录组织结构、一致性粒度、一致性协议流量、目录协议的可扩展性等方面,阐述了近年来缓存一致性协议性能优化的方向.对目前片上多核处理器缓存一致性协议设计中存在的问题进行了讨论,并指出了未来进一步研究的方向.     

面向移动Web应用的浏览器缓存性能度量与优化

随着移动互联网的飞速发展,用户越来越多地通过移动设备访问Web应用.浏览器为Web应用提供基本的计算、渲染等运行时支撑,其缓存机制可以支持Web应用直接从本地而不是通过网络来获取可复用资源,不仅能够减少整体的执行时间从而提升应用加载速度,还能够减少网络流量使用和电池电量消耗,从而保证移动Web用户体验.近年来,围绕面向移动Web应用的浏览器缓存优化得到了国内外学术界和工业界的广泛关注.然而,现有研究工作大多都是从网络层面关注浏览器缓存的整体性能,未充分考虑移动互联网用户访问行为的差异性和动态性,以及Web应用自身持续演化对浏览器实际缓存性能的影响.针对这一问题,首先设计了一种新型主动式缓存度量实验,通过仿真用户的访问行为来分析移动Web应用实际资源使用情况,揭示了浏览器缓存的理论性能上限和实际性能之间的巨大差距,并发现了造成这一差距的3个主要原因:重复请求别名资源、启发式过期时间和保守的过期时间配置.基于此发现,从应用层和平台层分别提出了两种浏览器缓存性能优化方案,并实现了原型系统.实验结果表明,采用两种方法分别平均可减少8%～51%和4%～58%的网络流量,且系统开销较小.     

通用图形处理器缓存子系统性能优化方法综述

随着工艺和制程技术的不断发展以及体系架构的日趋完善,通用图形处理器(general purpose graphics processing units, GPGPU)的并行计算能力得到了很大的提升,其在高性能、高吞吐量等通用计算应用场景的使用越来越广泛.GPGPU通过支持大量线程的并发执行,可以较好地隐藏长延时访存操作,从而获得高并行计算能力.然而,GPGPU在处理计算和访存不规则的应用时,其存储子系统的效率受到很大影响,尤其是片上缓存的争用情况尤为突出,难以及时提供计算操作所需的数据,使得GPGPU的高并行计算能力不能得到充分发挥.解决片上缓存的争用问题、优化缓存子系统的性能,是优化GPGPU性能的主要解决方案之一,也是目前研究GPGPU性能优化的主要热点之一.目前,针对GPGPU缓存子系统的性能优化研究主要集中在线程级并行度(thread level parallelism, TLP)调节、访存顺序调节、数据通量增强、最后一级缓存(last level cache, LLC)优化和基于非易失性存储(non-volatile memory, NVM)的GPGPU缓存新架构设计等5个方面.也从这5个方面重点分析讨论了目前主要的GPGPU缓存子系统性能优化方法,并在最后指出了未来GPGPU缓存子系统优化需要进一步探讨的问题,对GPGPU缓存子系统性能优化的研究有重要意义.     

代理服务器上的自适应存储缓冲技术

Internet的发展和网络用户数量的不断增加,加大了网络传输的延迟、Web服务器的压力和检索文档的反应时间,缓冲技术成为缓解这一局面的一种有效方法。该文提出的自适应存储缓冲策略应用于代理服务器上,通过自适应地存储Web资源,缩短了文档的检索时间。     

基于缓存技术的Web应用性能优化研究

在Internet快速发展的今天,用户通过网络获取大量的信息,各种各样的Web应用系统也随之产生,用户对Web应用系统的响应速度上升到最高需求。为提高用户的感受并降低企业和服务提供者的成本,经过研究和分析,发现缓存技术是在不增加成本的前提下提高Web应用系统性能的最有效的解决方案之一。     

一种新颖的软件可控Cache优化方法

由于Cache污染问题,传统的仅由硬件控制的Cache替换策略不能得到令人满意的Cache利用率。随着软件可控Cache机制的出现,编译器开始可以直接控制Cache替换,改善Cache行为。本文证明了一个Cache提示优化定理,并依该定理提出了一个由编译器辅助控制的Cache替换策略:最优Cache划分(OCP)。OCPCache替换策略简化了Cache行为和Cache失效分析方法。实验结果表明OCPCache替换策略能有效地降低Cache失效率。