线上期刊服务咨询,发表咨询:400-808-1701 订阅咨询:400-808-1721

云平台下输变电设备状态监测大数据存储优化与并行处理

宋亚奇 周国亮 朱永利 李莉 王刘旺 王德文 中国电机工程学报 2015年第02期

摘要:结合大数据技术提升输变电设备状态评价的广度和深度,并解决实际应用问题成为目前电力行业新的挑战。针对输变电设备状态监测大数据可靠存储和快速访问两方面大数据处理核心问题,基于开源的Hadoop云计算实验平台进行了数据分布策略、数据块尺寸调优、集群网络拓扑规划三方面的存储优化研究和大数据并行分析的研究。提出计及数据相关性的多副本一致哈希数据存储算法,能将具有相关性的数据在集群中聚集,提升数据处理执行效率。基于数据相关性多副本一致哈希数据分布,应用Map Reduce并行编程模型设计实现了多数据源并行连接查询算法和多通道数据融合并行特征提取算法。将两种算法在实验室搭建的集群上测试运行,结果表明,多数据源并行连接查询的执行时间仅为标准Hadoop方案的32%,多通道数据融合并行特征提取算法执行时间仅为标准Hadoop方案的35%。

关键词:大数据输变电设备状态监测一致哈希云计算

单位:华北电力大学控制与计算机工程学院 河北省保定市071003

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

中国电机工程学报

北大期刊

¥2539.20

关注 23人评论|1人关注