ترجمه فارسی مقاله SAMBO-RL: یادگیری تقویت آفلاین مبتنی بر مدل مبتنی بر مدل

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی SAMBO-RL: Shifts-aware Model-based Offline Reinforcement Learning
عنوان مقاله به فارسی SAMBO-RL: یادگیری تقویت آفلاین مبتنی بر مدل مبتنی بر مدل
نویسندگان Wang Luo, Haoran Li, Zicheng Zhang, Congying Han, Jiayu Lv, Tiande Guo
فرمت مقاله انگلیسی PDF
تعداد صفحات 14
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Machine Learning,یادگیری ماشین , یادگیری ماشین ,
توضیحات Submitted 23 August, 2024; originally announced August 2024.
توضیحات به فارسی ارسال شده 23 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Model-based Offline Reinforcement Learning trains policies based on offline datasets and model dynamics, without direct real-world environment interactions. However, this method is inherently challenged by distribution shift. Previous approaches have primarily focused on tackling this issue directly leveraging off-policy mechanisms and heuristic uncertainty in model dynamics, but they resulted in inconsistent objectives and lacked a unified theoretical foundation. This paper offers a comprehensive analysis that disentangles the problem into two key components: model bias and policy shift. We provide both theoretical insights and empirical evidence to demonstrate how these factors lead to inaccuracies in value function estimation and impose implicit restrictions on policy learning. To address these challenges, we derive adjustment terms for model bias and policy shift within a unified probabilistic inference framework. These adjustments are seamlessly integrated into the vanilla reward function to create a novel Shifts-aware Reward (SAR), aiming at refining value learning and facilitating policy training. Furthermore, we introduce Shifts-aware Model-based Offline Reinforcement Learning (SAMBO-RL), a practical framework that efficiently trains classifiers to approximate the SAR for policy optimization. Empirically, we show that SAR effectively mitigates distribution shift, and SAMBO-RL demonstrates superior performance across various benchmarks, underscoring its practical effectiveness and validating our theoretical analysis.

چکیده به فارسی (ترجمه ماشینی)

یادگیری تقویت کننده آفلاین مبتنی بر مدل ، سیاست های مبتنی بر مجموعه داده های آفلاین و پویایی مدل ، بدون تعامل مستقیم محیط در دنیای واقعی را آموزش می دهد.با این حال ، این روش ذاتاً با تغییر توزیع به چالش کشیده می شود.رویکردهای قبلی در درجه اول بر مقابله با این مسئله به طور مستقیم از مکانیسم های خارج از سیاست و عدم اطمینان اکتشافی در پویایی مدل متمرکز شده اند ، اما آنها منجر به اهداف متناقض شده و فاقد یک بنیاد نظری یکپارچه بودند.در این مقاله یک تحلیل جامع ارائه شده است که مشکل را به دو مؤلفه اصلی تقسیم می کند: تعصب مدل و تغییر سیاست.ما هم بینش های نظری و هم شواهد تجربی ارائه می دهیم تا نشان دهیم که چگونه این عوامل منجر به نادرستی در برآورد عملکرد ارزش می شوند و محدودیت های ضمنی در یادگیری سیاست را تحمیل می کنند.برای پرداختن به این چالش ها ، ما اصطلاحات تنظیم را برای تعصب مدل و تغییر سیاست در یک چارچوب استنتاج احتمالی یکپارچه استخراج می کنیم.این تنظیمات به طور یکپارچه در عملکرد پاداش وانیل برای ایجاد یک پاداش جدید-آگاه (SAR) با هدف پالایش یادگیری ارزش و تسهیل آموزش سیاست.علاوه بر این ، ما یادگیری تقویت کننده آفلاین مبتنی بر مدل تغییر شکل (SAMBO-RL) را معرفی می کنیم ، یک چارچوب عملی که به طور مؤثر طبقه بندی کننده ها را برای تقریبی SAR برای بهینه سازی سیاست آموزش می دهد.از نظر تجربی ، ما نشان می دهیم که SAR به طور مؤثر تغییر توزیع را کاهش می دهد ، و SAMBO-RL عملکرد برتر را در معیارهای مختلف نشان می دهد ، تأکید می کند که اثربخشی عملی آن و اعتبارسنجی نظری ما است.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.