线上期刊服务咨询,发表咨询:400-808-1701 订阅咨询:400-808-1721

基于关键列分组排序的列存储结构

徐涛; 顾瑜; 汪东升 计算机工程与科学 2016年第08期

摘要:磁盘作为海量数据的主要存储介质,具有容量大、成本低的优点,但是磁盘IO带宽远远落后于数据增长速度,日益成为大数据管理系统的性能瓶颈。因此,优化存储结构、提高读写效率是大数据时代管理系统面临的重要挑战。提出了一种基于关键列分组排序的混合列存储结构KCGS-Store,根据关键列分组将关系表划分为存储池,确保池内所有记录在关键列上的取值或取值范围相同,然后逐列进行池合并。合并后的关键列,以池为单位有序排列,执行条件查询时能够有效过滤无关列值,减少数据读取量,提升查询性能。同时利用池号索引,以少量时间空间代价完成记录重组。实验数据表明,与0RCFile、Par—quet存储结构相比,KCGs—sTORE在存储空间、数据加载、SQL查询等方面都有不同程度的优化。

关键词:hadoop列存储组排序大数据

单位:清华大学计算机科学与技术系; 北京100084

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

计算机工程与科学

北大期刊

¥624.00

关注 46人评论|5人关注