ترجمه فارسی مقاله افزایش ایمنی RL با استدلال خلاف واقع LLM

چکیده

Reinforcement learning (RL) policies may exhibit unsafe behavior and are hard to explain. We use counterfactual large language model reasoning to enhance RL policy safety post-training. We show that our approach improves and helps to explain the RL policy safety.

چکیده به فارسی (ترجمه ماشینی)

سیاست های یادگیری تقویت (RL) ممکن است رفتارهای ناامن را نشان دهد و توضیح آن دشوار است.ما از استدلال مدل زبان بزرگ ضد خلاف برای تقویت ایمنی سیاست RL پس از آموزش استفاده می کنیم.ما نشان می دهیم که رویکرد ما بهبود می یابد و به توضیح ایمنی سیاست RL کمک می کند.