ترجمه فارسی مقاله در مورد نرخ همگرایی یادگیری فدرال Q در محیط های ناهمگن

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی On the Convergence Rates of Federated Q-Learning across Heterogeneous Environments
عنوان مقاله به فارسی در مورد نرخ همگرایی یادگیری فدرال Q در محیط های ناهمگن
نویسندگان Muxing Wang, Pengkun Yang, Lili Su
فرمت مقاله انگلیسی PDF
تعداد صفحات 29
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Distributed, Parallel, and Cluster Computing,یادگیری ماشین , توزیع , موازی و محاسبات خوشه ای ,
توضیحات Submitted 5 September, 2024; originally announced September 2024.
توضیحات به فارسی ارسال شده در 5 سپتامبر 2024 ؛در ابتدا سپتامبر 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Large-scale multi-agent systems are often deployed across wide geographic areas, where agents interact with heterogeneous environments. There is an emerging interest in understanding the role of heterogeneity in the performance of the federated versions of classic reinforcement learning algorithms. In this paper, we study synchronous federated Q-learning, which aims to learn an optimal Q-function by having $K$ agents average their local Q-estimates per $E$ iterations. We observe an interesting phenomenon on the convergence speeds in terms of $K$ and $E$. Similar to the homogeneous environment settings, there is a linear speed-up concerning $K$ in reducing the errors that arise from sampling randomness. Yet, in sharp contrast to the homogeneous settings, $E>1$ leads to significant performance degradation. Specifically, we provide a fine-grained characterization of the error evolution in the presence of environmental heterogeneity, which decay to zero as the number of iterations $T$ increases. The slow convergence of having $E>1$ turns out to be fundamental rather than an artifact of our analysis. We prove that, for a wide range of stepsizes, the $\ell_{\infty}$ norm of the error cannot decay faster than $Θ(E/T)$. In addition, our experiments demonstrate that the convergence exhibits an interesting two-phase phenomenon. For any given stepsize, there is a sharp phase-transition of the convergence: the error decays rapidly in the beginning yet later bounces up and stabilizes. Provided that the phase-transition time can be estimated, choosing different stepsizes for the two phases leads to faster overall convergence.

چکیده به فارسی (ترجمه ماشینی)

سیستم های چند عامل در مقیاس بزرگ اغلب در مناطق جغرافیایی گسترده مستقر می شوند ، جایی که عوامل با محیط های ناهمگن در تعامل هستند.علاقه ای در حال ظهور به درک نقش ناهمگونی در عملکرد نسخه های فدرال الگوریتم های یادگیری تقویت کننده کلاسیک وجود دارد.در این مقاله ، ما یادگیری Q-Federated Q-Learning را مطالعه می کنیم ، که هدف آن یادگیری یک عملکرد Q بهینه با داشتن $ k $ $ است که به طور متوسط ​​Q-q-detimates خود را در هر تکرارهای $ E $ انجام می دهد.ما یک پدیده جالب در مورد سرعت همگرایی را از نظر $ k $ و $ E $ مشاهده می کنیم.مشابه تنظیمات محیط همگن ، سرعت خطی در مورد $ k $ در کاهش خطاهایی که از نمونه گیری تصادفی ناشی می شود وجود دارد.با این حال ، برخلاف تنظیمات همگن ، E> 1 $ منجر به تخریب عملکرد قابل توجهی می شود.به طور خاص ، ما یک توصیف ریز و درشت از تکامل خطا در حضور ناهمگونی محیطی ارائه می دهیم ، که با افزایش تعداد تکرارها $ t $ ، به صفر می رسد.همگرایی آهسته داشتن $ E> 1 $ به جای یک مصنوعی از تحلیل ما اساسی است.ما ثابت می کنیم که ، برای طیف گسترده ای از قدم ها ، هنجار $ \ ell _ {\ infty} $ خطا نمی تواند سریعتر از $ θ (e/t) $ پوسیده شود.علاوه بر این ، آزمایش های ما نشان می دهد که همگرایی پدیده ای جالب دو فاز را نشان می دهد.برای هر پله مشخص ، یک انتقال فاز تیز از همگرایی وجود دارد: خطا در ابتدا به سرعت پوسیده می شود اما بعداً تندرست و تثبیت می شود.مشروط بر اینکه می توان زمان انتقال فاز را تخمین زد ، انتخاب قدم های مختلف برای این دو مرحله منجر به همگرایی کلی سریعتر می شود.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.