基于Hadoop技术的加速器大数据安全存储与高效分析系统设计 |
| |
引用本文: | 赵子晨,杨锋,郭玉辉,陈又新,李钊扬,刘海涛.基于Hadoop技术的加速器大数据安全存储与高效分析系统设计[J].现代电子技术,2024(8):9-17. |
| |
作者姓名: | 赵子晨 杨锋 郭玉辉 陈又新 李钊扬 刘海涛 |
| |
作者单位: | 1. 中国科学院近代物理研究所;2. 中国科学院大学计算机科学与技术学院 |
| |
基金项目: | 中国科学院战略性先导科技专项(B类)(XDB34010000); |
| |
摘 要: | 为了解决当前加速器控制系统在数据管理方面所面临的海量数据安全存储和高效分析处理的问题,在现有的基础上引入了Hadoop大数据框架,并结合大数据其他相关组件,构建一个分布式数据仓库系统。文章详细阐述了数据仓库的搭建过程,包括软硬件架构以及将数据从现有数据库抽取、转换和加载到数据仓库的方案。特别是针对系统归档数据的存储和分析需求,根据实际应用场景设计一个基于HBase的存储解决方案。在系统部署完成后,进行了吞吐量测试,并与当前使用的传统数据库进行性能对比。测试结果显示,基于Hadoop的数据仓库系统在海量数据存储、高性能查询以及数据分析处理方面都表现出明显的优势。这一改进为加速器控制系统提供了更强大的数据管理和处理能力,有望为加速器在未来的发展提供更多可能性。
|
关 键 词: | 数据仓库 Hadoop技术 加速器 大数据 安全存储 HBase ETL |
|