摘要:提出了一种混合计算环境下的MapReduce并行计算模型,利用该模型可以将高性能集群节点与Internet或Intranet下异构的桌面PC组成混合计算环境,在该混合环境下运行MapReduce任务进行海量数据分析处理,充分利用了大规模桌面PC的计算与存储能力.与Hadoop类似,该模型分为存储层和任务层两层.对该模型及其核心的HybridDFS分布式文件系统和MapReduce算法进行了简单描述,进而设计并实现了一个原型系统,并对其进行了性能测试.测试结果表明,提出的混合计算模型不仅能够实现可靠的MapReduce计算,而且降低了计算的成本开销,具有非常大的潜力.
关键词:混合计算环境 mapreduce 志愿计算 容错 分布式文件系统
单位:湖南科技大学计算机科学与工程学院 湖南湘潭411201 法国里昂高等师范学院并行计算实验室 法国里昂69364
注:因版权方要求,不能公开全文,如需全文,请咨询杂志社