缓存替换算法研究综述

缓存技术作为提高系统性能的重要手段一直是研究的热点。随着网络存储等新技术的出现，存储的层次越来越复杂，原有的简单缓存管理技术已经不合适日趋复杂的应用。频率和时间综合考虑的缓存替换方法、多级缓存的替换技术成为研究的热点。本文综述了缓存替换算法的研究现状，首先介绍传统简单的缓存替换算法及其存在的局限性，而后对单级缓存算法和多级缓存算法当前最新的研究进行了介绍。最后对研究的趋势进行了简单的展望。     

一种针对片上众核结构共享末级缓存的改进的LFU替换算法

为了得到更高的吞吐率和性能功耗比,众核处理器摒弃了复杂的乱序处理器核,而在芯片内集成了大量的轻量级顺序处理器核。为了更好地支持核间数据共享,并减少访问片外存储器带来的开销,众核处理器往往采用共享的末级缓存LLC(Last LevelCache)。因为需要对为数众多相对独立的访问请求作出响应,因此相对于传统多核处理器的末级片内缓存,众核处理器的末级片内缓存更容易产生抖动现象。传统的最久未使用LRU(Least Recent Used)高速缓存替换策略在这种情况下往往无能为力,而几种最新提出的高速缓存替换策略也见效甚微。基于传统的最不经常使用LFU(Least Frequent Used)替换算法,提出一种改进的高速缓存替换算法。相对于LFU替换算法,该算法获取信息的粒度更粗,并且可以掌握更加全局的信息,而这些优势使得该算法更适合作为众核处理器末级片内缓存的替换算法。实验结果表明,在一个64核的众核处理器上,该替换算法可以有效地缓解末级片内缓存的抖动现象,同时该算法实现需要的硬件开销很小。     

基于协同过滤的Web缓存替换算法研究

针对GDSF替换算法中对访问频率缺少预测的不足,提出了一种基于协同过滤的GDSF缓存替换算法(GDSF-CF)。该算法考虑了Web对象之间相似性与用户访问时间间隔,运用协同过滤算法生成Web对象的预测访问频率,并采用齐普夫定律参数对GDSF算法的目标函数进行了改进。当需要进行缓存替换时,利用目标函数价值计算缓存空间中的每个Web对象缓存价值,将最小缓存价值的Web对象进行替换。仿真实验结果表明,该算法的命中率HR和字节命中率BHR都有较大提升。     

机械手存储库缓存替换算法研究及应用

文章首先给出了机械手存储库的缓存模型,针对缓存模型和多媒体应用的特点,提出了两种基于热点能量的新缓存替换算法———近期热点能量缓存算法(RPE)和双缓冲区缓存算法(TSC),通过仿真实验,讨论了几种算法参数的最优取值范围,并且利用对比实验,验证了两种算法的缓存性能在重负载、小缓存条件下要优于传统LRU算法。该文内容为设计和实现大规模数字媒体管理系统提供了重要的依据。     

基于低能耗与高缓存命中并存的缓存替换算法

近年来无线传感器被广泛地利用在各个领域,与之相关的优化节能研究也层出不穷.作为信息共享、分发关键技术的缓存技术节能研究成为了研究热点之一.从缓存替换算法的角度对缓存技术节能进行研究,先对已有的缓存替换算法进行比较分析,在继承二分法思想以及无线传感器网络中缓存替换策略的研究思想的基础上,整合基于低能耗和高缓存命中的两种替换算法,构建出兼顾低能耗和高缓存命中双目标的缓存替换算法.最后通过仿真验证该算法在平均延迟时间、能量消耗以及缓存命中三个方面均有不同程度的提升.     

ACACRA:一种新的网络缓存替换算法

为了提高网络缓存的命中率,分析了背包问题与缓存替换问题之间的异同,证实了缓存替换问题是一种典型的0/1背包问题,并由此借鉴求解0/1背包的蚁群算法模型的思路,提出了一种实施在应用层的基于蚁群算法的缓存替换算法ACA-CRA.该算法综合考虑了缓存数据的大小,被命中次数和在缓存中存留的时间来判定该缓存的缓存价值,并利用蚁群算法中正反馈机制使得缓存中保持的都是缓存价值较大的缓存数据,从而提高缓存命中率.并通过仿真实验证明了该算法的可行性和有效性.     

基于最小效用的流媒体缓存替换算法

提出最小缓存替换算法SCU-K，综合考虑流媒体文件最近K次访问情况，使缓存大小动态适应媒体流行度、字节有用性和已缓存部分大小的变化，降低了文件前缀部分被替换的概率，避免LRU和LFU算法中出现的媒体文件被连续替换的问题。在与LRU，LFU和LRU-2算法的对比实验中，SCU-K算法在提高缓存空间利用率、字节命中率和降低启动延迟方面具有更好的性能。     

一种高效的流媒体代理缓存替换算法

提出基于流行度和将来访问次数的最小效用替换算法（SCU-PFUT）,考虑流媒体文件的字节有效性和文件块大小等因素,使替换出内存的数据块更合理。避免LRU和LFU算法中出现的媒体文件被连续替换的问题,与LRU, LFU和SCU-2算法相比,该算法的缓存命中率、字节命中率和空间利用率较高。     

改进的最小效用流媒体代理缓存替换算法

在SCU-K算法的基础上,提出了基于流行度和将来访问次数的最小效用替换算法（SCU-PFUT）。此外算法还考虑了流媒体文件的字节有效性和文件块大小的因素,使得替换出内存的数据块更加合理。不但避免LRU和LFU算法中出现的媒体文件被连续替换的问题,相对于LRU、LFU和SCU-2,其在缓存命中率、字节命中率和空间利用率都得到了提升。     

动态数据处理平台分布式缓存替换算法仿真

针对传统分布式缓存替换算法路由器命中缓存性能不足的问题,提出一种动态数据处理平台分布式缓存替换算法。描述动态数据处理平台分布式数据缓存信息,构建动态数据处理平台的缓存架构表,并根据缓存情况替换缓存架构表,通过不断替换的缓存架构表改进权重替换算法,在算法中添加缓存对象这一参数,并通过改进后的算法计算缓存对象的更新权重值及其权重成本,根据计算成本替换LRU链表中的尾指针元素,当元素已存在缓存中并且被命中时、或出现被请求的新元素时,则更新LRU链,构造新的LRU链表,通过重构的LRU链表构建分布式缓存替换策略,从而实现动态数据处理平台分布式缓存替换算法的构建。为了证明动态数据处理平台分布式缓存替换算法的优越性,将其与传统分布式缓存替换算法进行比较,实验结果证明,上述算法的路由器命中缓存性能优于传统算法,更适合进行动态数据处理平台的分布式缓存替换。     

用于二级缓存的一种改进的自适应缓存管理算法

在机群系统或数据库服务器等应用环境下,由于本地内存资源限制,某些大内存应用与磁盘交互过多,会严重损害其性能.在高速网络支持下,把其他节点内存或采用专门的内存服务器作为系统的二级缓存,可减少对磁盘访问并提高应用性能.在二级缓存应用模式下,基于LIRS算法并对其存在的缺点进行改进,提出了一种自适应缓存管理算法LIRS-A. LIRS-A可根据应用访问特征自适应调整,避免了LIRS不适应某些具有时间局部性模式的情况.在TPC-H应用中,LIRS-A比LIRS最多有7.2%的性能提升;在网络流分析数据库的典型Groupby查询中,LIRS-A比LIRS的命中率最多可提高31.2%.     

基于连续缓存和二级缓存的DFTL改进算法

DFTL(demand-based FTL)是一种根据负载访问特点动态加载映射项到缓存中的知名FTL(flash translation layer)算法,但是它没有考虑到请求的空间局部性,而且缓存中的一个映射项剔除就可能会导致翻译页的更新,缓存中映射项的频繁剔除又会导致额外的擦除操作.在DFTL的基础上,提出了SDFTL(sequential/second cache DFTL)算法.SDFTL新设置连续缓存和二级缓存,连续缓存通过预取映射信息,利用请求的空间局部性,提高了FTL对连续负载的处理性能;二级缓存通过暂存从一级缓存中剔除的、发生更新的映射项,并采取批量更新策略回写到闪存,减少了闪存的翻译页写回次数和擦除次数.利用实际负载做的实验结果显示,SDFTL相比DFTL缓存命中率平均提高41.57%,擦除次数平均减少23.08%,响应时间平均减少17.74%.     

Linux文件系统数据缓冲区的分析研究

文章深入研究了Linux文件系统的数据缓冲区管理,包括数据缓冲区的整体结构、数据缓冲区采用的数据结构和实现方法。     

一种基于重用距离预测与流检测的高速缓存替换算法

传统的缓存替换算法由于不能适应应用程序的流式访问行为而导致缓存性能不佳.设计基于周期检测的预测方法,分析程序访存重用距离的规律性和流式访问的复杂性,提出用重用距离预测能同时适应简单流和复杂流访问模式的RDP算法.RDP的基本思想是预测重用距离并动态维护重用距离计数,动态调整缓存数据的替换顺序,通过流采样缩减存储开销.实验结果表明,RDP算法能够很好地适应程序中多样化的流访问模式,其总体性能优于LRU算法和DIP算法,在32MB缓存上比传统LRU算法平均减少了27.5%的缓存缺失.     

网络代理缓存Squid存储系统分析

文章在对开放源代码的网络代理缓存——Squid源代码深入分析的基础上，阐述了Squid存储系统的实现机制。分析了Squid的软件结构、工作机制，Squid的存储系统，包括抽象存储层、文件系统、内存管理及替换机制。Squid存储系统的设计具有很强的模块性和开放性，是研究网络缓存技术的一个很好的实验平台。     

面向存储服务的分布式缓存系统研究

针对分布式环境下高频率异地数据访问造成的系统性能下降的问题,对SBM模型进行改进,提出分布式缓存系统D-Cache,给出基于最优价值度的缓存文件替换算法——OCV。数字模拟实验结果证明,与DartCache系统相比,D-Cache系统能更有效地减少系统访问延迟,增加吞吐量,提高分布式环境下系统的性能。     

基于修正LRU的压缩Cache替换策略

以优化压缩cache的替换策略为目标,提出一种优化的基于修正LRU的压缩cache替换策略MLRU-C。MLRU-C策略能利用压缩cache中额外的tag资源,形成影子tag机制来探测并修正LRU替换策略的错误替换决策,从而优化压缩cache替换策略的性能。实验结果表明,与传统LRU替换策略相比,MLRU-C平均能降低L2压缩cache失效率12.3%。     

一种自适应cache替换策略的研究与设计

由于I/O工作流多样性,单纯的LRU或LFU类型的算法都无法提高缓冲区的效率。自适应双栈LRU(下文简称AD-LRU)替换算法很好的解决了上面的问题,其中LRS存放低recency的页面,HRS存放高recency且高频率的页面,利用它们的效率来调整它们的大小。实验证明,有效的提高了缓冲区的命中率。     

MDM3的缓存替换策略研究

文中从基于国产DBMS—DM3的MDM3体系入手，在分析了当前各种替换策略优缺点的基础上，提出了语义簇的概念及结构，给出了适合MDM3的缓存物理存储结构及缓存替换策略，最后给出了详细的替换算法。