节点文献

Hadoop下基于资源感知的调度算法

NEW SCHEDULING ALGORITHM IN HADOOP BASED ON RESOURCE AWARE

  • 推荐 CAJ下载
  • PDF下载
  • 不支持迅雷等下载工具,请取消加速工具后下载。

【作者】 徐鹏王红

【Author】 Xu Peng;Wang Hong;School of Information Science and Engineering,Shandong Normal University;

【机构】 山东师范大学信息科学与工程学院

【摘要】 在大规模的数据中心中,I/O型作业和CPU型作业通常会同时在同一集群上运行,他们之间所需要的资源是互补的.现有的Hadoop调度算法并没有对这两种工作的并行化进行研究,针对这点不足,提出了基于资源感知的调度算法,对作业负载和节点负载进行合理的分类和调度,解决因为资源竞争和不合理调度而影响处理速率的问题.对该算法进行实验及性能分析,在验证了算法在作业完成时间和系统吞吐量方面有很大改进.

【Abstract】 In a practical large data center,it is a common scenario that I/O-bound jobs and CPU-bound jobs,that demand complementary resources,run simultaneously on the same cluster.In current Hadoop scheduling algorithm,parallelization of these two kinds of job has not been concerned.In this paper,we propose new resource aware scheduling algorithm.This algorithm to classify the type of work and node workload reasonably,and the algorithm mainly solve the problems that affect the processing rate which arise during resource contention.Finally,the experiments and performance analysis of the algorithm proved that the algorithm could significantly improve the system’s throughput.

【关键词】 HadoopMapeReduce资源感知任务调度
【Key words】 HadoopMapeReduceresource awareschedule
【基金】 国家自然科学基金资助项目(60975081);山东省科技发展计划项目(2012GGB01058);山东省研究生创新基金资助项目(SDYY10059)
  • 【文献出处】 山东师范大学学报(自然科学版) ,Journal of Shandong Normal University(Natural Science) , 编辑部邮箱 ,2013年04期
  • 【分类号】TP393.02
节点文献中: 

本文链接的文献网络图示:

本文的引文网络