共查询到19条相似文献,搜索用时 125 毫秒
1.
2.
3.
基于光盘库的Hadoop分布式文件系统(HDFS光盘库)在单位存储成本、数据安全性、使用寿命等方面非常符合当前大数据存储要求,但是HDFS不适合存储大量小文件和实时数据读取。为了使HDFS光盘库能更好地运用到更多大数据存储场景,本文提出一种更加适合大数据存储的磁光虚拟存储系统(MOVS, Magneto-optical Virtual Storage System)。系统在HDFS光盘库与用户之间加入磁盘缓存,并在磁盘缓存内通过文件标签分类、虚拟存储、小文件合并等技术将磁盘缓存内小文件合并为适合HDFS光盘库存储的大文件,提高系统的数据传输速度。系统还使用了文件预取、缓存替换等文件调度算法对磁盘缓存内文件进行动态更新,减少用户访问HDFS光盘库次数。实验结果表明,MOVS相对HDFS光盘库在响应时间和数据传输速度方面得到很大改善。 相似文献
4.
5.
光盘库是当前海量信息存储的一种重要方式。为了降低光盘库的访问响应时间,文章在光盘库前端加入一个磁盘缓存系统。分析了光盘库访问特性,设计并实现了一个基于文件类型的副本缓存结构以及相应的缓存替换算法。这种缓存结构同传统的相比,缓存命中率有所提高,内存消耗变小了,同时大大改善了本地缓存空间的可管理性。 相似文献
6.
文章介绍了一种基于光纤通道的扩展存储域网的解决方案,通过网络技术和存储技术相结合,提供了大容量数据存储的方法,具有比传统的依附于服务器或者网络的存储体系更好的网络可用性、数据访问性和系统管理性。 相似文献
7.
网络化存储是当今存储技术的趋势。介绍了一种附网存储服务器NASStor的设计与实现,并详细描述了它的硬件和软件系统,最后指出了NAS设备研发的重点和难点以及后续工作的重点。 相似文献
8.
9.
10.
根据谷歌数据中心研究报告,传统数据中心存在高能耗、低利用率的问题。通过研究集群数据块访问规律,提出一种基于集群规模调整的Hadoop分布式文件系统(HDFS)节能存储策略,实现HDFS高效节能存储。策略主要在集群区域划分、数据块迁移策略优化、缓存机制等方面作出了改进。实验结果表明:使用该节能策略的HDFS比传统HDFS节能35%~40%,其中0.3%的访问需要唤醒服务器,同时引入缓存策略对集群的性能提高了5.1%。 相似文献
11.
基于光盘库的VOD系统的研究与设计 总被引:3,自引:0,他引:3
大规模多媒体点播系统需要海量的存储空间,采用层次化存储结构是一个合理的方案。文章给出了视频点播层次化存储系统的结构,针对光盘库的特性,提出了一种基于光盘库的二级库调度与接纳算法及相应的缓冲磁盘管理方法。并给出了一种二级库系统驱动器的配置。 相似文献
12.
针对数据中心存在大量数据冗余的问题,特别是备份数据造成的存储容量浪费,提出一种基于Hadoop平台的分布式重复数据删除解决方案。该方案通过检测并消除特定数据集内的冗余数据,来显著降低数据存储容量,优化存储空间利用率。利用Hadoop大数据处理平台下的分布式文件系统(HDFS)和非关系型数据库HBase两种数据管理模式,设计并实现一种可扩展分布式重删存储系统。其中,MapReduce并行编程框架实现分布式并行重删处理,HDFS负责重删后的数据存储,在HBase数据库中构建索引表,实现高效数据块索引查询。最后,利用虚拟机镜像文件数据集对系统进行了测试,基于Hadoop平台的分布式重删系统能在保证高重删率的同时,具有高吞吐率和良好的可扩展性。 相似文献
13.
网络存储技术是当前存储应用的发展趋势,IP SAN是其中的热点之一,如何构建网络存储系统直接关系到校园网络的安全性。介绍了SAN、ISCSI协议及其工作原理,结合高校数据中心存储的需求分析,提出了一种基于ISCSI协议的经济实用、高性价比的高校数据中心网络存储设计方案。 相似文献
14.
无线射频识别技术在再生纺化纤行业物流配送中心的应用 总被引:1,自引:1,他引:0
通过对再生纺化纤行业中的龙头企业“宁波大发化纤有限公司”厂内物流配送中心的需求研究,提出了一个基于无线射频技术的信息系统解决方案。探讨了一个将高频和超高频RFID设备规划于同一配送中心管理系统之中,通过解决不同设备间相互“串读”的问题,使其分别读取电子标签数据信息并承担相应配送环节的数据采集任务的方法。提出了为实现过滤不同类型的标签,在标签的数据块中设置标志符来加以区分的新方法。最终实现完全基于RFID技术的完整的配送中心试点系统。 相似文献
15.
16.
基于文件级共享存取的NAS存储系统已被广泛使用,但随着数据量的急剧增长,存储系统规模迅速扩大,其性能问题也因此日趋严重,对其评测也变得非常复杂,目前还未形成对NAS存储系统性能评测的有效标准方案.因此,用户在选购存储产品时没有参考标准和方法,极大地影响了用户的数据中心建设规划;同时,测评技术的落后也制约了存储技术的发展.为了解决这些问题,通过对NAS存储系统性能影响因素等的大量研究,制定了一套包括测评指标和测评方法等内容在内的性能测评方案,并通过测试实验展示了对NAS存储系统性能测评的方法和性能分析.本测评方案为用户提供了可行的技术参考方法,解决了目前存储测评技术发展的主要问题. 相似文献
17.
随着云计算的发展,云存储技术通过集群应用、虚拟化技术、分布式文件系统等功能将网络中大量各种不同类型的存储设备集合起来协同工作,缓解了老式数据中心的存储压力.另外,重复数据删除技术是一种缩减存储空间减少网络传输量的技术,随着云的广泛应用也势必会发展应用于云存储中.这两种技术结合将会给IT存储业带来实际效益.本文通过研究重复数据删除技术、云存储技术,设计了基于云存储的重复数据删除架构,提出了一种用In-line方式在客户端进行数据块级与字节级相结合的重复数据删除操作后再将数据存入云中的方案.在本架构下,海量数据存储在HDFS中;而文件数据块的哈希值存储在HBase中. 相似文献
18.
云计算环境下的分布存储关键技术 总被引:11,自引:0,他引:11
云计算作为下一代计算模式,在科学计算和商业计算领域均发挥着重要作用,受到当前学术界和企业界的广泛关注.云计算环境下的分布存储主要研究数据在数据中心上的组织和管理,作为云计算环境的核心基础设施,数据中心通常由百万级以上节点组成,存储其上的数据规模往往达到PB级甚至EB级,导致数据失效成为一种常态行为,极大地限制了云计算的应用和推广,增加了云计算的成本.因此,提高可扩展性和容错性、降低成本,成为云计算环境下分布存储研究的若干关键技术.针对如何提高存储的可扩展性、容错性以及降低存储的能耗等目标,从数据中心网络的设计、数据的存储组织方式等方面对当前分布存储的关键技术进行了综述.首先,介绍并对比了当前典型的数据中心网络结构的优缺点;其次,介绍并对比了当前常用的两种分布存储容错技术,即基于复制的容错技术和基于纠删码的容错技术;第三,介绍了当前典型的分布存储节能技术,并分析了各项技术的优缺点;最后指出了当前技术面临的主要挑战和下一步研究的方向. 相似文献