ترجمه فارسی مقاله در مورد همگرایی یادگیری Q-پاداش متوسط ​​در فرآیندهای تصمیم گیری مارکوف با ارتباط ضعیف

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی On Convergence of Average-Reward Q-Learning in Weakly Communicating Markov Decision Processes
عنوان مقاله به فارسی در مورد همگرایی یادگیری Q-پاداش متوسط ​​در فرآیندهای تصمیم گیری مارکوف با ارتباط ضعیف
نویسندگان Yi Wan, Huizhen Yu, Richard S. Sutton
فرمت مقاله انگلیسی PDF
تعداد صفحات 53
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Optimization and Control,یادگیری ماشین , بهینه سازی و کنترل ,
توضیحات Submitted 29 August, 2024; originally announced August 2024.
توضیحات به فارسی ارسال شده 29 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

This paper analyzes reinforcement learning (RL) algorithms for Markov decision processes (MDPs) under the average-reward criterion. We focus on Q-learning algorithms based on relative value iteration (RVI), which are model-free stochastic analogues of the classical RVI method for average-reward MDPs. These algorithms have low per-iteration complexity, making them well-suited for large state space problems. We extend the almost-sure convergence analysis of RVI Q-learning algorithms developed by Abounadi, Bertsekas, and Borkar (2001) from unichain to weakly communicating MDPs. This extension is important both practically and theoretically: weakly communicating MDPs cover a much broader range of applications compared to unichain MDPs, and their optimality equations have a richer solution structure (with multiple degrees of freedom), introducing additional complexity in proving algorithmic convergence. We also characterize the sets to which RVI Q-learning algorithms converge, showing that they are compact, connected, potentially nonconvex, and comprised of solutions to the average-reward optimality equation, with exactly one less degree of freedom than the general solution set of this equation. Furthermore, we extend our analysis to two RVI-based hierarchical average-reward RL algorithms using the options framework, proving their almost-sure convergence and characterizing their sets of convergence under the assumption that the underlying semi-Markov decision process is weakly communicating.

چکیده به فارسی (ترجمه ماشینی)

در این مقاله الگوریتم های یادگیری تقویت (RL) برای فرآیندهای تصمیم گیری مارکوف (MDP) تحت معیار متوسط ​​دریافت شده است.ما بر روی الگوریتم های یادگیری Q بر اساس تکرار ارزش نسبی (RVI) تمرکز می کنیم ، که آنالوگ های تصادفی بدون مدل از روش RVI کلاسیک برای MDP های متوسط ​​پاداش هستند.این الگوریتم ها از پیچیدگی در هر سوخت کم برخوردار هستند و باعث می شوند آنها برای مشکلات فضای بزرگ دولتی مناسب باشند.ما تجزیه و تحلیل همگرایی تقریبا-الگوریتم های یادگیری RVI Q را که توسط Abounadi ، Bertsekas و Borkar (2001) از Unichain تا MDP های ضعیف ارتباط برقرار می کنیم ، گسترش می دهیم.این پسوند هم از نظر عملی و هم از نظر تئوری از اهمیت برخوردار است: ارتباط ضعیف MDP ها طیف وسیعی از برنامه ها را در مقایسه با MDP های Unichain پوشش می دهند ، و معادلات بهینه سازی آنها دارای یک ساختار راه حل غنی تر (با چند درجه آزادی) است و پیچیدگی اضافی در اثبات همگرایی الگوریتمی را نشان می دهد.ما همچنین مجموعه هایی را که الگوریتم های یادگیری RVI Q به آن همگرا می شوند ، توصیف می کنیم ، نشان می دهد که آنها جمع و جور ، متصل ، به طور بالقوه غیر کنفکس هستند و از راه حل هایی برای معادله بهینه بهینه متوسط ​​، با دقیقاً یک درجه آزادی کمتر از مجموعه راه حل عمومی تشکیل شده اند.این معادلهعلاوه بر این ، ما تجزیه و تحلیل خود را به دو الگوریتم RL میانگین سلسله مراتبی مبتنی بر RVI با استفاده از چارچوب گزینه ها گسترش می دهیم ، و با این فرض که فرایند تصمیم گیری نیمه مارکف را به طور ضعیفی به دست می آورد ، اثبات می کند و مجموعه های همگرایی آنها را توصیف می کنیم.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.