مقاله در مورد چشم اندازهای فراپارامتری الگوریتم های یادگیری ماشین
| عنوان مقاله به انگلیسی | On the Hyperparameter Landscapes of Machine Learning Algorithms |
| عنوان مقاله به فارسی | مقاله در مورد چشم اندازهای فراپارامتری الگوریتم های یادگیری ماشین |
| نویسندگان | Mingyu Huang, Ke Li |
| زبان مقاله | انگلیسی |
| فرمت مقاله: | |
| تعداد صفحات | 0 |
| دسته بندی موضوعات | Machine Learning,فراگیری ماشین, |
| توضیحات | Submitted 23 November, 2023; originally announced November 2023. |
| توضیحات به فارسی | ارسال شده 23 نوامبر 2023 ؛در ابتدا نوامبر 2023 اعلام شد. |
چکیده
Despite the recent success in a plethora of hyperparameter optimization (HPO) methods for machine learning (ML) models, the intricate interplay between model hyperparameters (HPs) and predictive losses (a.k.a fitness), which is a key prerequisite for understanding HPO, remain notably underexplored in our community. This results in limited explainability in the HPO process, rendering a lack of human trust and difficulties in pinpointing algorithm bottlenecks. In this paper, we aim to shed light on this black box by conducting large-scale fitness landscape analysis (FLA) on 1,500 HP loss landscapes of 6 ML models with more than 11 model configurations, across 67 datasets and different levels of fidelities. We reveal the first unified, comprehensive portrait of their topographies in terms of smoothness, neutrality and modality. We also show that such properties are highly transferable across datasets and fidelities, providing fundamental evidence for the success of multi-fidelity and transfer learning methods. These findings are made possible by developing a dedicated FLA framework that incorporates a combination of visual and quantitative measures. We further demonstrate the potential of this framework by analyzing the NAS-Bench-101 landscape, and we believe it is able to faciliate fundamental understanding of a broader range of AutoML tasks.
چکیده به فارسی (ترجمه ماشینی)
علیرغم موفقیت اخیر در مجموعه ای از روشهای بهینه سازی هایپرپارامتر (HPO) برای مدل های یادگیری ماشین (ML) ، تعامل پیچیده بین مدل هایپرپارامترهای مدل (HPS) و ضررهای پیش بینی کننده (A.K.A تناسب اندام) ، که یک پیش نیاز اصلی برای درک HPO است ، به ویژه باقی مانده است.در جامعه ما نامشخص است.این منجر به توضیح محدود در فرآیند HPO می شود و باعث عدم اعتماد به نفس انسان و مشکلات در مشخص کردن بطری های الگوریتم می شود.در این مقاله ، ما هدف ما این است که با انجام تجزیه و تحلیل چشم انداز تناسب اندام در مقیاس بزرگ (FLA) در 1500 HP از دست دادن مناظر 6 مدل 6 میلی لیتر با بیش از 11 پیکربندی مدل ، در 67 مجموعه داده و سطوح مختلف Fidelits ، این جعبه سیاه را روشن کنیم.ما اولین پرتره یکپارچه و جامع از توپوگرافی های آنها را از نظر صافی ، بی طرفی و روش نشان می دهیم.ما همچنین نشان می دهیم که چنین خواصی در بین مجموعه داده ها و وفاداری بسیار قابل انتقال است و شواهد اساسی برای موفقیت روشهای یادگیری چند وفاداری و انتقال ارائه می دهد.این یافته ها با ایجاد یک چارچوب اختصاصی FLA که ترکیبی از اقدامات بصری و کمی را شامل می شود ، امکان پذیر است.ما علاوه بر این پتانسیل این چارچوب را با تجزیه و تحلیل چشم انداز NAS-BENCH-101 نشان می دهیم ، و ما معتقدیم که قادر به درک اساسی از طیف گسترده تری از کارهای AUTOM است.📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
-
کتاب صدها نکته فارسی (خودمونی) – نسخه PDF — زبان ساده و کاربردی
مشاهده نمونه نسخه نکات ساده -
کتاب صدها نکته رسمی فارسی – نسخه PDF — نگارش استاندارد و علمی
مشاهده نمونه نسخه نکات رسمی -
کتاب صدها پرسش و پاسخ تشریحی – نسخه PDF
— هر سؤال همراه با پاسخ کامل برای درک عمیق مفاهیم
مشاهده نمونه نسخه پرسش و پاسخ -
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع -
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
- این محصول به صورت فایل دانلودی کامل ارائه میشود.
- توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
- دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
- برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
- اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی:
واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248
تلگرام: @ma_limbs
نظرات
هنوز نظری ثبت نشده است.
وارد شوید تا نظر ثبت کنید.