基于動機的強化學(xué)習(xí)及其應(yīng)用研究.pdf

1、傳統(tǒng)強化學(xué)習(xí)通常只考慮其外在動機，即針對某一特定的、具體的目標(biāo)任務(wù)，設(shè)計專門的外部獎勵信號用以驅(qū)動智能體進行行為策略的學(xué)習(xí)，以實現(xiàn)長期累積獎勵的最大化。獎勵信號通常需要系統(tǒng)設(shè)計者根據(jù)場景和智能體自身的特點進行專門設(shè)計以提高學(xué)習(xí)效率，缺乏設(shè)計上的通用性和學(xué)習(xí)上的主動性。
　　針對降低獎勵信號設(shè)計難度和實現(xiàn)智能體自主學(xué)習(xí)的需要，本文在對現(xiàn)有的動機獎勵機制和動機強化學(xué)習(xí)框架進行研究的基礎(chǔ)上，借鑒情感心理在人類行為決策中的角色，通過將智能

2、體感知到的狀態(tài)映射為情感維度，提出了一種量化的情感模型作為內(nèi)在動機機制。內(nèi)在情感動機在外界獎勵信號的基礎(chǔ)上提供附加補充獎勵，或者單獨作為獎勵來驅(qū)動智能體進行學(xué)習(xí)，從而形成一套閉環(huán)的“感知–評價–內(nèi)在情感動機相關(guān)獎勵與外界獎勵相結(jié)合–強化學(xué)習(xí)–行動–感知”基于情感動機的強化學(xué)習(xí)框架。內(nèi)在情感動機與具體的任務(wù)無關(guān)，因此具有一定的通用性，其量化模型中，好奇心通過評價狀態(tài)和動作的新奇程度來控制智能體對陌生或熟悉環(huán)境的探索偏好；控制欲通過評價智能

3、體對環(huán)境模型的掌控程度來調(diào)節(jié)智能體在“保守”和“冒險”策略間的權(quán)衡；而幸福指數(shù)則用來判斷當(dāng)前狀態(tài)和動作的相對優(yōu)劣程度，對外部獎勵進行微調(diào)；三者結(jié)合作為內(nèi)在動機共同實現(xiàn)對智能體學(xué)習(xí)和行為偏好的調(diào)整。
　　在基于情感動機的強化學(xué)習(xí)框架的基礎(chǔ)上，本文對其在提高傳統(tǒng)強化學(xué)習(xí)中具體任務(wù)學(xué)習(xí)效率方面的應(yīng)用進行了仿真驗證：一是將內(nèi)在情感動機驅(qū)動的學(xué)習(xí)作為具體任務(wù)學(xué)習(xí)的“預(yù)習(xí)階段”，提前學(xué)習(xí)到盡可能準(zhǔn)確的環(huán)境模型供后期具體任務(wù)學(xué)習(xí)時利用，并緩解傳

4、統(tǒng)強化學(xué)習(xí)中的“探索–利用”兩難問題；二是將內(nèi)在情感動機作為附加獎勵與外部獎勵融合為一體，以更高效地直接驅(qū)動具體任務(wù)的學(xué)習(xí)。通過在開源機器人軟件開發(fā)框架Robot Operating System(ROS)上搭建貓作為智能體捕捉老鼠的仿真場景、設(shè)計實驗方案并與單純外部獎勵驅(qū)動的學(xué)習(xí)進行對比，證明了情感作為內(nèi)在動機在提高具體任務(wù)學(xué)習(xí)效率方面的通用效果以及本文所提情感動機量化方案的合理性。
　　另外，針對基于情感動機的強化學(xué)習(xí)在智能體