配电网监测数据的分布式Map压缩-查询技术

针对配电自动化中大量电力监测数据的处理问题,提出了回避聚合操作的配电网监测数据分布式Map压缩-查询新方法。通过将监测数据分布式Map压缩存储,利用HQL查询引擎及压缩接口将分布式Map压缩应用到连接查询的混洗阶段中,减小传递到查询聚合端的数据量,提高压缩数据的查询速度,并推导了时效性的相关公式。以北京某动车段10 kV电力远动监控系统的实测数据为例,搭建了四节点测试集群。压缩导入对比测试表明,分布式Map压缩速度快于分布式Reduce压缩,分布式Map的Map_Deflate压缩处理时间比分布式Reduce_Deflate减少了45.3%;压缩-查询测试表明,当数据量为2×10~7记录级时,分布式Map的Map_LZO格式压缩-查询耗时大幅降低,比混洗阶段不压缩-查询时减少了31.6%,验证了分布式Map压缩对加速查询的时效性。     

配电网SCADA时序数据集群的RWI快速查询技术

针对配电网大量调度监控准实时数据查询效率不高的问题,利用富网络组件容器和大数据二级索引机制将配电大数据嵌入到大规模并行处理(massively parallel processor,MPP)查询引擎中,提出一种跨平台的配电网数据RWI快速查询新方法。综合运用Impala数据守护进程,实现大量准实时数据在调度监控应用的快速查询。以铁路10k V配电网监控系统工程导出的数千万级实际时序数据为算例,进行加载测试和集群查询性能测试。结果表明:基于二级索引的RWI方法异步回调机制,在正常运行下的集群磁盘I/O读取速度约为存储速度的10倍,能将大数据集群与监控界面端异步回调接口间的数据延迟降至数百ms级,合理提高集群性能,能够适当地提升海量数据响应能力,但远低于扩大集群节点数对海量数据响应能力的提升效果。     

配电网监测大数据的Impala快速查询技术

针对目前配电网监测大数据SQL交互查询速度慢的问题,对配电网监测数据类型进行归类整理,利用Impala分布式处理工具重点研究一种监测大数据的MPP快速查询技术。通过协调节点将查询计划解析为执行计划树,将计划树的片段分配至多个从节点并行执行,各从节点将中间结果按执行计划树流式传递回协调节点,再通过多机集群的全内存并行执行加速查询。选用四机监控系统集群为例进行加载测试和查询性能测试,结果表明:相较关系数据库,MPP大数据快速查询技术大幅提高了数据加载速度。对北京某动车段配电监测的千万级数据记录,关系数据库和Hive数据仓库至少都需94s以上,而MPP快速查询仅需约320ms,查询性能提升近3个数量级,大幅提高了监测大数据的查询处理速度。