مقاله بازپخش تجربه اولویت‌دار تنظیم‌شده مستقیم از دست دادن توجه

چکیده

Prioritized Experience Replay (PER) enables the model to learn more about relatively important samples by artificially changing their accessed frequencies. However, this non-uniform sampling method shifts the state-action distribution that is originally used to estimate Q-value functions, which brings about the estimation deviation. In this article, an novel off policy reinforcement learning training framework called Directly Attention Loss Adjusted Prioritized Experience Replay (DALAP) is proposed, which can directly quantify the changed extent of the shifted distribution through Parallel Self-Attention network, so as to accurately compensate the error. In addition, a Priority-Encouragement mechanism is designed simultaneously to optimize the sample screening criterion, and further improve the training efficiency. In order to verify the effectiveness and generality of DALAP, we integrate it with the value-function based, the policy-gradient based and multi-agent reinforcement learning algorithm, respectively. The multiple groups of comparative experiments show that DALAP has the significant advantages of both improving the convergence rate and reducing the training variance.

چکیده به فارسی (ترجمه ماشینی)

پخش مجدد تجربه اولویت بندی شده (PER) این مدل را قادر می سازد تا با تغییر مصنوعی فرکانسهای دسترسی خود ، در مورد نمونه های نسبتاً مهم اطلاعات بیشتری کسب کند.با این حال ، این روش نمونه گیری غیر یکنواخت توزیع عملکرد دولت را که در ابتدا برای برآورد توابع Q-مقدار استفاده می شود ، تغییر می دهد ، که باعث انحراف تخمین می شود.در این مقاله ، یک چارچوب آموزش یادگیری تقویت کننده خط مشی جدید به نام مستقیماً از دست دادن توجه تنظیم شده در اولویت بندی مجدد تجربه (DALAP) ارائه شده است ، که می تواند به طور مستقیم میزان تغییر یافته توزیع شده را از طریق شبکه خودآزمایی موازی تعیین کند ، تا بتواند به طور دقیق جبران کندخطاعلاوه بر این ، یک مکانیسم تحریک اولویت به طور همزمان برای بهینه سازی معیار غربالگری نمونه و بهبود بیشتر راندمان آموزش طراحی شده است.به منظور تأیید اثربخشی و کلی بودن DALAP ، ما آن را به ترتیب با الگوریتم یادگیری تقویت شده مبتنی بر سیاست و چند عامل ، به ترتیب با عملکرد ارزش ، ادغام می کنیم.گروه های مختلفی از آزمایش های مقایسه ای نشان می دهد که DALAP مزایای قابل توجهی در بهبود میزان همگرایی و هم کاهش واریانس آموزش دارد.