节点文献

面向Option的k-聚类Subgoal发现算法

K-Cluster Subgoal Discovery Algorithm for Option

  • 推荐 CAJ下载
  • PDF下载
  • 不支持迅雷等下载工具,请取消加速工具后下载。

【作者】 王本年; 高阳; 陈兆乾; 谢俊元; 陈世福;

【Author】 Wang Bennian 1,2 , Gao Yang1, Chen Zhaoqian1, Xie Junyuan1, and Chen Shifu1 1 (National Laboratory for Novel Software Technology, Nanjing University, Nanjing 210093) 2 (Department of Computer Science and Technology, Tongling College, Tongling 244000)

【机构】 南京大学计算机软件新技术国家重点实验室; 铜陵学院计算机科学与技术系铜陵244000; 南京大学计算机软件新技术国家重点实验室 南京210093; 南京210093;

【摘要】 在学习过程中自动发现有用的Subgoal并创建Option,对提高强化学习的学习性能有着重要意义.提出了一种基于k-聚类的Subgoal自动发现算法,该算法能通过对在线获取的少量路径数据进行聚类的方法抽取出Subgoal.实验表明,该算法能有效地发现所有符合要求的Subgoal,与Q-学习和基于多样性密度的强化学习算法相比,用该算法发现Subgoal并创建Option的强化学习算法能有效提高A-gent的学习速度.

【Abstract】 Discovering useful subgoals and creating options while learning is important to improve the learning performance of agent in hierarchical reinforcement learning. A new subgoal discovery algorithm based on k-cluster is proposed which can extract subgoals from the set of trajectories collected online by clustering them. The results of experiment show that the algorithm can find all sobgoals quite efficiently, and the hierarchical reinforcement learning with k-cluster algorithm has better learning performance than Q-learning and hierarchical reinforcement learning with diverse density algorithm.

【关键词】 分层强化学习; Option; 子目标;
【Key words】 hierarchical reinforcement learning; option; subgoal;
【基金】 国家自然科学基金项目(60475026);江苏省自然科学基金项目(BK2004079)~~
  • 【文献出处】 计算机研究与发展 ,Journal of Computer Research and Development , 编辑部邮箱 ,2006年05期
  • 【分类号】TP181
  • 【被引频次】20
  • 【下载频次】182
节点文献中: 

本文链接的文献网络图示:

本文的引文网络