【英文题名】
Research on the Selection of Hidden Layer Nodes for Extreme Learning Machine
【作者】
徐志鑫 ;
【导师】
姚敏 ;
【学位授予单位】
浙江大学 ;
【学科专业名称】
计算机科学与技术
【学位年度】
2017
【论文级别】
硕士
【网络出版投稿人】
浙江大学
【网络出版投稿时间】
2017-07-26
【关键词】
极限学习机 ;
人工神经网络 ;
机器学习 ;
正则化 ;
剪枝法 ;
增量学习 ;
【英文关键词】
Extreme Learning Machine ;
Artificial Neural Networks ;
Machine Learning ;
Regular-ization ;
Prunning Method ;
Incremental Learning ;
【中文摘要】
本文主要研究一种新的机器学习方法,即极限学习机(ELM)。作为一种针对单隐层前馈神经网络(SLFNs)的学习算法,ELM具有快速的学习速度和很好的泛化能力。隐含层节点在ELM算法中起着重要的作用,确定隐含层节点的方法有两种:一是剪枝法;二是增量学习方法。本文中我们介绍了两种剪枝方法,最优剪枝ELM(OP-ELM)和Tikhonov正则 OP-ELM(TROP-ELM)。我们的主要工作是ELM的增量学习方法,增量学习即首先初始化一个较小的网络,然后向网络中增加新的节点,直到生成一个我们满意的网络。当新的隐含层节点加入到已经存在的网络中时,重新训练网络往往比较费时,误差最小化极限学习机(EM-ELM)是一种增量的计算输出权值的快速方法。然而,由于过拟合等原因,EM-ELM不能总是得到好的泛化能力。在此,根据结构风险最小化准则,我们提出了一种基于正则化的EM-ELM改进方法,即增量正则化极限学习机(IR-ELM)。当我们逐一的向网络中增加新的隐含层节点时,IR-ELM可以快速的更新输出权值,同时保证网络具有很好的泛化能力,从而避免了上述提到的问题。同时,我们还提出了 IR-ELM的提升方法(EIR-ELM),它可以...
【英文摘要】
In this paper,we mainly study a new machine learning method called extreme learning ma-chine(ELM).As a learning algorithm for single hidden layer feedforward neural networks(SLFNs),ELM has fast learning speed and good generalization ability.Hidden layer node plays an impor-tant role in ELM algorithm.There are two methods determining the nodes of hidden layer for ELM:one is the pruning method;another is the incremental learning method.We introduce two pruning methods,optimally pruned extreme learning machine...
【更新日期】
2018-01-01
【相同导师文献】
导师:姚敏 导师单位:浙江大学 学位授予单位:浙江大学
[1] 官万先.基于虚拟细胞成像和深度学习的神经元分支点检测方法 [D]. 浙江大学,2018
[2] 徐志鑫.极限学习机隐含层节点选择算法研究 [D]. 浙江大学,2017
[3] 李明攀.基于深度学习的目标检测算法研究 [D]. 浙江大学,2018
[4] 陈坤.面向智能车辆的基础软件平台设计与实现 [D]. 浙江大学,2015
[5] 曾斌.商品导购方法与关键技术研究 [D]. 浙江大学,2015
[6] 杨颖.一种多差分向量的自适应差分演化算法 [D]. 浙江大学,2015
[7] 赖盛章.大鼠机器人迷宫实验系统的设计与实现 [D]. 浙江大学,2016
[8] 陈浩杰.面向微小卫星的Smart-OSEK OS设计与实现 [D]. 浙江大学,2013
[9] 唐凯.基于MPC5668G多功能车载网关的设计与实现 [D]. 浙江大学,2013
[10] 吴星和.图像情感语义注释与检索研究 [D]. 浙江大学,2013
【相似文献】
中国期刊全文数据库
中国优秀硕士学位论文全文数据库
中国博士学位论文全文数据库
中国重要会议论文全文数据库
中国重要报纸全文数据库
中国学术期刊网络出版总库
点击下列相关研究机构和相关文献作者,可以直接查到这些机构和作者被《中国知识资源总库》收录的其它文献,使您全面了解该机构和该作者的研究动态和历史。
【文献分类导航】从导航的最底层可以看到与本文研究领域相同的文献,从上层导航可以浏览更多相关领域的文献。