线上期刊服务咨询,发表咨询:400-808-1701 订阅咨询:400-808-1721

配电网监测数据的分布式Map压缩-查询技术

屈志坚; 陈鼎龙; 王群峰 电力自动化设备 2017年第12期

摘要:针对配电自动化中大量电力监测数据的处理问题,提出了回避聚合操作的配电网监测数据分布式Map压缩-查询新方法。通过将监测数据分布式Map压缩存储,利用HQL查询引擎及压缩接口将分布式Map压缩应用到连接查询的混洗阶段中,减小传递到查询聚合端的数据量,提高压缩数据的查询速度,并推导了时效性的相关公式。以北京某动车段10 kV电力远动监控系统的实测数据为例,搭建了四节点测试集群。压缩导入对比测试表明,分布式Map压缩速度快于分布式Reduce压缩,分布式Map的Map_Deflate压缩处理时间比分布式Reduce_Deflate减少了45.3%;压缩-查询测试表明,当数据量为2×10~7记录级时,分布式Map的Map_LZO格式压缩-查询耗时大幅降低,比混洗阶段不压缩-查询时减少了31.6%,验证了分布式Map压缩对加速查询的时效性。

关键词:配电网大数据集群平台分布式压缩

单位:华东交通大学电气与自动化工程学院; 江西南昌330013

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

电力自动化设备

北大期刊

¥700.00

关注 26人评论|1人关注