ترجمه فارسی مقاله تجزیه و تحلیل همگرایی مجانبی و غیر مجانبی AdaGrad برای بهینه سازی غیر محدب از طریق تجزیه و تحلیل مبتنی بر زمان توقف جدید

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی Asymptotic and Non-Asymptotic Convergence Analysis of AdaGrad for Non-Convex Optimization via Novel Stopping Time-based Analysis
عنوان مقاله به فارسی تجزیه و تحلیل همگرایی مجانبی و غیر مجانبی AdaGrad برای بهینه سازی غیر محدب از طریق تجزیه و تحلیل مبتنی بر زمان توقف جدید
نویسندگان Ruinan Jin, Xiaoyu Wang, Baoxiang Wang
فرمت مقاله انگلیسی PDF
تعداد صفحات 38
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Optimization and Control,Machine Learning,Machine Learning,بهینه سازی و کنترل , یادگیری ماشین , یادگیری ماشین ,
توضیحات Submitted 8 September, 2024; originally announced September 2024. , Comments: 38 pages , MSC Class: 65K05; 65K10; 90C60; 60G40; 60G46
توضیحات به فارسی ارسال شده در 8 سپتامبر 2024 ؛در ابتدا در سپتامبر 2024 اعلام شد. ، نظرات: 38 صفحه ، کلاس MSC: 65K05 ؛65K10 ؛90C60 ؛60G40 ؛60G46
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Adaptive optimizers have emerged as powerful tools in deep learning, dynamically adjusting the learning rate based on iterative gradients. These adaptive methods have significantly succeeded in various deep learning tasks, outperforming stochastic gradient descent (SGD). However, although AdaGrad is a cornerstone adaptive optimizer, its theoretical analysis is inadequate in addressing asymptotic convergence and non-asymptotic convergence rates on non-convex optimization. This study aims to provide a comprehensive analysis and complete picture of AdaGrad. We first introduce a novel stopping time technique from probabilistic theory to establish stability for the norm version of AdaGrad under milder conditions. We further derive two forms of asymptotic convergence: almost sure and mean-square. Furthermore, we demonstrate the near-optimal non-asymptotic convergence rate measured by the average-squared gradients in expectation, which is rarely explored and stronger than the existing high-probability results, under the mild assumptions. The techniques developed in this work are potentially independent of interest for future research on other adaptive stochastic algorithms.

چکیده به فارسی (ترجمه ماشینی)

بهینه سازهای تطبیقی ​​به عنوان ابزاری قدرتمند در یادگیری عمیق ظاهر شده اند و به طور پویا نرخ یادگیری را بر اساس شیب های تکراری تنظیم می کنند.این روشهای تطبیقی ​​به طور قابل توجهی در کارهای مختلف یادگیری عمیق موفق شده اند ، از نزول شیب تصادفی (SGD) بهتر است.با این حال ، اگرچه ADAGRAD یک بهینه ساز تطبیقی ​​سنگ بنای سنگ بنای آن است ، تجزیه و تحلیل نظری آن در پرداختن به همگرایی بدون علامت و نرخ همگرایی غیر غیر متعارف در بهینه سازی غیر متناوب ناکافی است.این مطالعه با هدف ارائه یک تحلیل جامع و تصویر کامل از Adagrad انجام شده است.ما ابتدا یک تکنیک زمان توقف رمان را از تئوری احتمالی معرفی می کنیم تا ثبات برای نسخه هنجار Adagrad را در شرایط خفیف تر ایجاد کنیم.ما همچنین دو شکل همگرایی بدون علامت را به دست می آوریم: تقریباً مطمئن و میانگین مربع.علاوه بر این ، ما میزان همگرایی غیر متعارف تقریباً بهینه را نشان می دهیم که توسط شیب متوسط ​​مربع در انتظار اندازه گیری می شود ، که به ندرت مورد بررسی قرار می گیرد و قوی تر از نتایج با احتمال زیاد موجود ، تحت فرضیات خفیف است.تکنیک های توسعه یافته در این کار به طور بالقوه مستقل از علاقه به تحقیقات آینده در مورد سایر الگوریتم های تصادفی سازگار هستند.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.