中国学术期刊网络出版总库
  关闭
基于虚拟化的多GPU深度神经网络训练框架  
   推荐 CAJ下载 PDF下载
【英文篇名】 Training Framework of Multi-GPU Deep Neural Network Based on Virtualization
【下载频次】 ★★★★★
【作者】 杨志刚; 吴俊敏; 徐恒; 尹燕;
【英文作者】 YANG Zhigang; WU Junmin; XU Heng; YIN Yan; School of Computer Science and Technology; University of Science and Technology of China; Suzhou Institute; School of Software;
【作者单位】 中国科学技术大学计算机科学与技术学院; 中国科学技术大学苏州研究院; 中国科学技术大学软件学院;
【文献出处】 计算机工程 , Computer Engineering, 编辑部邮箱 2018年 02期  
期刊荣誉:中文核心期刊要目总览  ASPT来源刊  CJFD收录刊
【中文关键词】 虚拟化; 深度神经网络; 分布式; 多机多GPU; 数据并行; 手写数字识别;
【英文关键词】 virtualization; deep neural network; distributed; multi-machine and multi-GPU; data parallel; handwritten numeral recognition;
【摘要】 针对深度神经网络在分布式多机多GPU上的加速训练问题,提出一种基于虚拟化的远程多GPU调用的实现方法。利用远程GPU调用部署的分布式GPU集群改进传统一对一的虚拟化技术,同时改变深度神经网络在分布式多GPU训练过程中的参数交换的位置,达到两者兼容的目的。该方法利用分布式环境中的远程GPU资源实现深度神经网络的加速训练,且达到单机多GPU和多机多GPU在CUDA编程模式上的统一。以手写数字识别为例,利用通用网络环境中深度神经网络的多机多GPU数据并行的训练进行实验,结果验证了该方法的有效性和可行性。
【英文摘要】 Aiming at the problem of deep neural network speeding up training on distributed multi-machine and multiGPU,this paper proposes an implementation method of remote multi-GPUs calls based on virtualization. The distributed GPU clusters deployed by remote GPU calls improve the traditional one-to-one virtualization technology and change the location of the deep neural network for parameter exchange during distributed multi-GPU training,achieve the compatibility between the two. The method utilizes the remote GP...
【基金】 国家重点研发计划项目“面向异构融合数据流加速器的运行时系统”(2016YFB1000403)
【更新日期】 2018-03-13
【分类号】 TP183;TP332
【正文快照】 2.中国科学技术大学a.苏州研究院;b.软件学院,江苏苏州215123)中文引用格式:杨志刚,吴俊敏,徐恒,等.基于虚拟化的多GPU深度神经网络训练框架[J].计算机工程,2018,44(2):68-74,83.英文引用格式:YANG Zhigang,WU Junmin,XU Heng,et al.Training Framework of Multi-GPU Deep Neur

xxx
【读者推荐文章】中国期刊全文数据库 中国博士学位论文全文数据库 中国优秀硕士学位论文全文数据库
【相似文献】
中国期刊全文数据库
中国优秀硕士学位论文全文数据库
中国博士学位论文全文数据库
中国重要会议论文全文数据库
中国重要报纸全文数据库
中国学术期刊网络出版总库
点击下列相关研究机构和相关文献作者,可以直接查到这些机构和作者被《中国知识资源总库》收录的其它文献,使您全面了解该机构和该作者的研究动态和历史。
【文献分类导航】从导航的最底层可以看到与本文研究领域相同的文献,从上层导航可以浏览更多相关领域的文献。

工业技术
  自动化技术、计算机技术
   自动化基础理论
    人工智能理论
     人工神经网络与计算

工业技术
  自动化技术、计算机技术
   计算技术、计算机技术
    电子数字计算机(不连续作用电子计算机)
     运算器和控制器(CPU)
  
 
  CNKI系列数据库编辑出版及版权所有:中国学术期刊(光盘版)电子杂志社
中国知网技术服务及网站系统软件版权所有:清华同方知网(北京)技术有限公司
其它数据库版权所有:各数据库编辑出版单位(见各库版权信息)
京ICP证040431号    互联网出版许可证 新出网证(京)字008号