节点文献

HDFS数据存放策略的研究与改进

Research and improvement of data placement strategy for HDFS

  • 推荐 CAJ下载
  • PDF下载
  • 不支持迅雷等下载工具,请取消加速工具后下载。

【作者】 罗鹏龚勋

【Author】 LUO Peng;GONG Xun;College of Computer,Sichuan University;

【机构】 四川大学计算机学院

【摘要】 为了改善HDFS中集群负载的均衡性,提高数据节点的资源利用率,提出了一种改进的数据存放策略。在HDFS原始策略的基础上充分考虑了节点的差异性,通过采集数据节点的CPU负载、内存负载、网络负载和存储空间负载,引入负载因子计算数据的存放成本,以选择一个最优的数据节点存放数据。实验结果表明,改进后的策略优化了集群负载的均衡性,提高了数据块副本的传输性能。

【Abstract】 To improve the cluster load balancing of HDFS and the resource utilization of Datanodes,an improved data replacement strategy is proposed.The differences of Datanodes on the basis of HDFS original strategy are considered fully.Selection costs are calculated by collecting CPU load,memory load,network load and storage load,and load factor is introduced to select the most appropriate Datanode to store data.Experiments show that it optimizes the balancing of cluster load,and improves the transmission performance of data block replicas.

【基金】 国家自然科学基金项目(61173159);教育部重大项目培育基金项目(708075)
  • 【文献出处】 计算机工程与设计 ,Computer Engineering and Design , 编辑部邮箱 ,2014年04期
  • 【分类号】TP333
  • 【被引频次】45
  • 【下载频次】279
节点文献中: 

本文链接的文献网络图示:

本文的引文网络