北京交通大学自动化与智能学院

殷辰堃课题组论文发表于《控制与决策》

发布于 2023-07-14

    我所殷辰堃老师参与完成的论文《部分可观测下基于RGMAAC算法的多智能体协同》于2023-05在《控制与决策》正式发表。论文摘要如下:

摘要:多智能体深度强化学习(MADRL)将深度强化学习的思想和算法应用到多智能体系统的学习和控制中,是开发具有群智能体的多智能体系统的重要方法。现有的MADRL研究主要基于环境完全可观测或通信资源不受限的假设展开算法设计,然而部分可观测性是多智能体系统实际应用中客观存在的问题,例如智能体的观测范围通常是有限的,可观测的范围外不包括完整的环境信息,从而对多智能体间协同造成困难。鉴于此,针对实际场景中的部分可观测问题,基于集中式训练分布式执行的范式,将深度强化学习算法Actor-Critic扩展到多智能体系统,并增加智能体间的通信信道和门控机制,提出recurrent gated multi-agent Actor-Critic算法(RGMAAC)。智能体可以基于历史动作观测记忆序列进行高效的通信交流,最终利用局部观测、历史观测记忆序列以及通过通信信道显式地由其他智能体共享的观察进行行为决策;同时,基于多智能体粒子环境设计多智能体同步且快速到达目标点任务,并分别设计2种奖励值函数和任务场景。实验结果表明,当任务场景中明确出现部分可观测问题时,RGMAAC算法训练后的智能体具有很好的表现,在稳定性方面优于基线算法。

引用信息:王子豪, 张严心, 黄志清, 等. 部分可观测下基于RGMAAC算法的多智能体协同[J]. 控制与决策, 2023, 38(5): 1267-1277. DOI: 10.13195/j.kzyjc.2022.0422

论文链接:http://kzyjc.alljournals.cn/kzyjc/article/abstract/20230509