Elsa:一种面向跨区域架构的无协调分布式键值存储系统

作为具备高性能和高可伸缩性的分布式存储解决方案,键值存储系统近年来被广泛采用,例如Redis、MongoDB、Cassandra等.分布式存储系统中广泛使用的多副本机制一方面提高了系统吞吐量和可靠性,但同时也增加了系统协调和副本一致性的额外开销.对于跨域分布式系统来说,远距离的副本协调开销甚至可能成为系统的性能瓶颈,降低系统的可用性和吞吐量.提出分布式键值存储系统Elsa,这是一种面向跨区域架构的无协调键值存储系统. Elsa在保证高性能和高可拓展性的基础上,采用无冲突备份数据结构(CRDT)技术来无协调的保证副本间的强最终一致性,降低了系统节点间的协调开销.在阿里云上构建了跨4数据中心8节点的跨区域分布式环境,进行了大规模分布式性能对比实验,实验结果表明:在跨域的分布式环境下,对于高并发争用的负载, Elsa系统的性能具备明显的优势,最高达到MongoDB集群的7.37倍, Cassandra集群的1.62倍.     

分布式存储中精确修复最小带宽再生码的性能研究

分布式存储系统为保证数据可靠性,需要对数据进行冗余存储来应对由于节点失效所带来的数据不可靠性.基于矩阵积构造的精确修复最小带宽再生码除了能够显著降低系统的存储冗余,而且编码的构造参数之间没有约束限制,还能够显著降低修复带宽的开销,具有广阔的应用前景.然而,基于此编码方案所设计的分布式存储系统的性能开销并没有得到充分的研究和分析.针对该编码在分布式存储系统中数据上传、修复、下载3个阶段,分别比较CPU使用率、文件大小、缓冲区大小以及有限域大小对上述3个阶段中运算速度的影响,发现通过对相关参数进行合理配置,可以使得基于相应编码方案的分布式存储系统能够获得良好的运行性能.     

基于iSCSI存储集群的设计与实现

为了节约成本,提高系统的可用性,通过研究iSCSI与存储集群的特点,提出将iSCSI应用到存储集群中的方案.分析了心跳检测、故障迁移、数据镜像等技术,在设计心跳检测时,通过增加失效点阀值提高检测的正确性,故障迁移利用ARP欺骗原理来完成,数据镜像则使用同步模式来保障数据的一致性.最后实现了一款高可靠、高可用基于iSCSI的存储集群系统,并对存储系统性能进行了测试.     

面向科研领域的分布式对象存储系统

随着科研工作的推进, 科研数据出现了海量的增长, PB级科研数据需要高效、稳定的存储系统. 传统的数据存储方案存在资源利用率差、集群扩展性能低以及用户界面操作不友好等问题, 严重限制了数据在科研场景下的有效利用. 依托中科院地球科学大数据专项, 本文设计并实现高效的存储系统i-Harbor. 该系统以对象存储系统为核心架构, 以开源的Ceph分布式存储系统和MongoDB数据库作为对象数据和元数据的存储载体, 设计通用的基于HTTP和FTP协议的数据接口, 同时利用多副本和纠删码技术消除单点故障, 配合Zabbix集群监控系统, 实时定位平台参数以及故障, 提高平台容灾性和安全性. 此外, 基于底层分布式结构的特点, 集群可以随意添加存储节点, 提高了平台的扩展性.     

分布式存储系统的故障检测自适应算法

为建立分布式存储系统中高效可靠的故障检测机制,提出一种基于混合状态的捎带故障检测自适应算法——MSP-AFD。建立面向分布式存储系统的故障检测框架,基于负载预测的方式计算检测时延,自适应调整超时参数。实验结果表明,MSP-AFD算法的故障检测性能较优。     

基于Beowulf集群的可扩展性模型的研究

可扩展性是衡量并行算法与并行系统匹配程度的一项重要指标.分析了传统的等并行开销计算比评价准则,指出其优缺点.为了适用于基于Beowulf集群的分布式并行计算环境,对传统的等并行开销计算比评价准则进行改进,得到Beowulf环境下的新的可扩展函数.该可扩展函数能够直观地反映基于Beowulf集群的分布式并行系统在机器规模和问题规模扩展时,其性能的扩展特性.用该评价准则分析并论证了编制的并行算法与BeowuIf集群相结合的可扩展性.     

一种分布式集群系统

本文研究了广域网分布式集群的设计.与LVS相比,这种集群的结构虽然复杂,但是能够克服传统集群的局限性,提供质量好,容量大,性价比高的解决方案.根据一种称之为CG树的分布式集群的抽象模型,作者设计了自己CG树算法.这种方案能有效的减少网络节点之间的通信开销,并能在集群系统出现故障时自动进行调整,保证了高可用性.模拟实验结果表明,该系统具有很好的性能.     

面向拜占庭弹性的余度管理方案

综合化航空电子系统是新一代飞机的一个重要特征,其可靠性和稳定性对整个飞机的飞行和安全起着决定性作用.针对航电系统应当具有高可靠性的特点,提出一种分布式集群余度架构,并设计相应的余度管理方法,以容忍航电系统故障后可能出现的拜占庭错误,有效提高容错计算机的可靠性和容错能力.采用门限签名和集群选主两种方案优化提出的余度管理方法,降低集群中余度计算机之间的通信开销,避免影响航电系统的实时性,提高余度管理效率.通过模拟实验进行测试,结果验证了分布式集群余度管理方法可以有效提升航电系统的可靠性,增强拜占庭弹性,实现在n余度的航电系统中只要拜占庭节点数小于n/3,系统仍然能够正确运行,并且优化方案具有更低的通信开销和计算开销.     

基于事务回退的事务存储系统的故障恢复

针对事务存储系统机制下的容错问题,提出一种基于事务回退的事务存储系统的故障恢复方法.该方法利用事务存储系统自身的版本管理机制,避免了额外的检查点数据保存开销,从而实现了事务存储系统高效的故障恢复.通过对容错事务存储系统的隔离性证明了该方法的正确性.最后,使用包括4个SPLASH-2典型用例在内的5个测试程序对该方法进行了性能测试.实验结果表明,与经典的Checkpointing机制相比,该方法在避免了额外的检查点数据保存开销的同时,还具有较低的故障恢复开销.     

Ceph分布式系统的ISCSI高可用集群

在分布式存储集群环境中,为了兼容现有存储协议,提高集群可扩展性,通常都会支持ISCSI存储协议.而现有ISCSI服务的高可用主要通过主从备份的方式实现,该方式会导致资源利用不充分,容易造成单节点负载过重等情况.本文基于Ceph分布式存储系统的优势,采用raft一致性算法等设计并实现ISCSI高可用集群.ISCSI集群使用自定义的节点选择策略实现服务负载均衡,并通过raft分布式协议实现服务故障迁移.实验表明,本文提出的方案是有效的,能够实现服务故障迁移,保证集群负载均衡.