线上期刊服务咨询,发表咨询:400-808-1701 订阅咨询:400-808-1721

集成I/O硬件压缩加速器的Hadoop系统结构

雷力; 钱斌海; 郭俊; 顾雄礼; 刘鹏 计算机工程与科学 2016年第08期

摘要:随着大数据的发展,Hadoop系统成为了大数据处理中的重要工具之一。在实际应用中,Hadoop的I/O操作制约系统性能的提升。通常Hadoop系统通过软件压缩数据来减少I/O操作,但是软件压缩速度较慢,因此使用硬件压缩加速器来替换软件压缩。Hadoop运行在Java虚拟机上,无法直接调用底层I/O硬件压缩加速器。通过实现Hadoop压缩器/解压缩器类和设计C++动态链接库来解决从Hadoop系统中获得压缩数据和将数据流向I/O硬件压缩加速器两个关键技术,从而将I/O硬件压缩加速器集成到Hadoop系统框架。实验结果表明,I/O硬件压缩加速器的每赫兹压缩速度为15.9Byte/s/Hz,集成I/O硬件压缩加速器提升Hadoop系统性能2倍。

关键词:hadoop硬件压缩加速器

单位:浙江大学信息与电子工程学院; 浙江杭州310027; 华为技术有限公司; 浙江杭州310051

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

计算机工程与科学

北大期刊

¥624.00

关注 46人评论|5人关注