MAPress
مقاله نزول بهینه محلی برای زمان بندی اندازه گام دینامیک

مقاله نزول بهینه محلی برای زمان بندی اندازه گام دینامیک

تگ‌ها: Machine Learning Optimization and Control بهینه سازی و کنترل یادگیری ماشین

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

عنوان مقاله به انگلیسی Locally Optimal Descent for Dynamic Stepsize Scheduling
عنوان مقاله به فارسی مقاله نزول بهینه محلی برای زمان بندی اندازه گام دینامیک
نویسندگان Gilad Yehudai, Alon Cohen, Amit Daniely, Yoel Drori, Tomer Koren, Mariano Schain
زبان مقاله انگلیسی
فرمت مقاله: PDF
تعداد صفحات 0
دسته بندی موضوعات Machine Learning,Optimization and Control,Machine Learning,یادگیری ماشین , بهینه سازی و کنترل , یادگیری ماشین ,
توضیحات Submitted 23 November, 2023; originally announced November 2023.
توضیحات به فارسی ارسال شده 23 نوامبر 2023 ؛در ابتدا نوامبر 2023 اعلام شد.

چکیده

We introduce a novel dynamic learning-rate scheduling scheme grounded in theory with the goal of simplifying the manual and time-consuming tuning of schedules in practice. Our approach is based on estimating the locally-optimal stepsize, guaranteeing maximal descent in the direction of the stochastic gradient of the current step. We first establish theoretical convergence bounds for our method within the context of smooth non-convex stochastic optimization, matching state-of-the-art bounds while only assuming knowledge of the smoothness parameter. We then present a practical implementation of our algorithm and conduct systematic experiments across diverse datasets and optimization algorithms, comparing our scheme with existing state-of-the-art learning-rate schedulers. Our findings indicate that our method needs minimal tuning when compared to existing approaches, removing the need for auxiliary manual schedules and warm-up phases and achieving comparable performance with drastically reduced parameter tuning.

چکیده به فارسی (ترجمه ماشینی)

ما یک طرح برنامه ریزی با نرخ یادگیری پویا جدید را که در تئوری مبتنی بر هدف قرار دادن تنظیم دستی و وقت گیر برنامه ها در عمل است ، معرفی می کنیم.رویکرد ما مبتنی بر تخمین قدم های بهینه محلی است و حداکثر نزول را در جهت شیب تصادفی مرحله فعلی تضمین می کند.ما ابتدا مرزهای همگرایی نظری را برای روش خود در چارچوب بهینه سازی تصادفی غیر کنفکس صاف ، مطابق با مرزهای پیشرفته و در عین حال که فقط دانش پارامتر صافی را فرض می کنیم ، ایجاد می کنیم.سپس ما یک اجرای عملی از الگوریتم خود را ارائه می دهیم و آزمایش های سیستماتیک را در مجموعه داده های متنوع و الگوریتم های بهینه سازی انجام می دهیم ، و طرح خود را با برنامه های پیشرفته یادگیری پیشرفته در مقایسه می کنیم.یافته های ما نشان می دهد که روش ما در مقایسه با رویکردهای موجود ، نیاز به تنظیم حداقل دارد ، نیاز به برنامه های دستی کمکی و مراحل گرم کردن و دستیابی به عملکرد قابل مقایسه با تنظیم پارامتر به شدت کاهش یافته است.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.