ترجمه فارسی مقاله یادگیری تقویتی بدون نرخ یادگیری: موردی برای انتخاب مدل با اهداف غیر ایستا

چکیده

The performance of reinforcement learning (RL) algorithms is sensitive to the choice of hyperparameters, with the learning rate being particularly influential. RL algorithms fail to reach convergence or demand an extensive number of samples when the learning rate is not optimally set. In this work, we show that model selection can help to improve the failure modes of RL that are due to suboptimal choices of learning rate. We present a model selection framework for Learning Rate-Free Reinforcement Learning that employs model selection methods to select the optimal learning rate on the fly. This approach of adaptive learning rate tuning neither depends on the underlying RL algorithm nor the optimizer and solely uses the reward feedback to select the learning rate; hence, the framework can input any RL algorithm and produce a learning rate-free version of it. We conduct experiments for policy optimization methods and evaluate various model selection strategies within our framework. Our results indicate that data-driven model selection algorithms are better alternatives to standard bandit algorithms when the optimal choice of hyperparameter is time-dependent and non-stationary.

چکیده به فارسی (ترجمه ماشینی)

عملکرد الگوریتم های یادگیری تقویت (RL) به انتخاب هایپرپارامترها حساس است ، با این که میزان یادگیری به ویژه تأثیرگذار است.الگوریتم های RL قادر به دستیابی به همگرایی نیستند یا تعداد گسترده ای از نمونه ها را تقاضا می کنند وقتی که نرخ یادگیری بهینه تنظیم نشده باشد.در این کار ، ما نشان می دهیم که انتخاب مدل می تواند به بهبود حالت های خرابی RL کمک کند که به دلیل انتخاب زیر حد متوسط ​​نرخ یادگیری است.ما یک چارچوب انتخاب مدل برای یادگیری تقویت عاری از نرخ یادگیری ارائه می دهیم که از روش های انتخاب مدل برای انتخاب نرخ یادگیری بهینه در پرواز استفاده می کند.این رویکرد تنظیم نرخ یادگیری تطبیقی ​​نه به الگوریتم RL اساسی و نه بهینه ساز بستگی ندارد و فقط از بازخورد پاداش برای انتخاب نرخ یادگیری استفاده می کند.از این رو ، چارچوب می تواند هر الگوریتم RL را وارد کرده و یک نسخه بدون نرخ یادگیری از آن تولید کند.ما آزمایشاتی را برای روشهای بهینه سازی سیاست انجام می دهیم و استراتژی های مختلف انتخاب مدل را در چارچوب خود ارزیابی می کنیم.نتایج ما نشان می دهد که الگوریتم های انتخاب مدل داده محور گزینه های بهتری برای الگوریتم های راهزن استاندارد هستند که انتخاب بهینه HyperParameter وابسته به زمان و غیر ثابت باشد.