ترجمه فارسی مقاله آیا مسیرهای بهینه سازی انتقال چند وظیفه ای را توضیح می دهند؟

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی Can Optimization Trajectories Explain Multi-Task Transfer?
عنوان مقاله به فارسی آیا مسیرهای بهینه سازی انتقال چند وظیفه ای را توضیح می دهند؟
نویسندگان David Mueller, Mark Dredze, Nicholas Andrews
فرمت مقاله انگلیسی PDF
تعداد صفحات 26
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,یادگیری ماشین ,
توضیحات Submitted 26 August, 2024; originally announced August 2024. , Comments: Pre-print
توضیحات به فارسی ارسال شده در 26 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد. ، نظرات: پیش چاپ
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Despite the widespread adoption of multi-task training in deep learning, little is understood about how multi-task learning (MTL) affects generalization. Prior work has conjectured that the negative effects of MTL are due to optimization challenges that arise during training, and many optimization methods have been proposed to improve multi-task performance. However, recent work has shown that these methods fail to consistently improve multi-task generalization. In this work, we seek to improve our understanding of these failures by empirically studying how MTL impacts the optimization of tasks, and whether this impact can explain the effects of MTL on generalization. We show that MTL results in a generalization gap-a gap in generalization at comparable training loss-between single-task and multi-task trajectories early into training. However, we find that factors of the optimization trajectory previously proposed to explain generalization gaps in single-task settings cannot explain the generalization gaps between single-task and multi-task models. Moreover, we show that the amount of gradient conflict between tasks is correlated with negative effects to task optimization, but is not predictive of generalization. Our work sheds light on the underlying causes for failures in MTL and, importantly, raises questions about the role of general purpose multi-task optimization algorithms.

چکیده به فارسی (ترجمه ماشینی)

علیرغم اتخاذ گسترده آموزش چند کاره در یادگیری عمیق ، کمی در مورد چگونگی تأثیر یادگیری چند کاره (MTL) بر تعمیم تأثیر می گذارد.کار قبلی حدس زده است که اثرات منفی MTL ناشی از چالش های بهینه سازی است که در طول آموزش ایجاد می شود و بسیاری از روش های بهینه سازی برای بهبود عملکرد چند کاره ارائه شده است.با این حال ، کار اخیر نشان داده است که این روش ها در بهبود مداوم تعمیم چند کاره ناکام هستند.در این کار ، ما به دنبال این هستیم که با مطالعه تجربی چگونگی تأثیر MTL بر بهینه سازی کارها ، و اینکه آیا این تأثیر می تواند اثرات MTL را بر تعمیم توضیح دهد ، درک خود را از این شکست ها بهبود بخشیم.ما نشان می دهیم که MTL منجر به شکاف عمومی سازی در تعمیم در تعمیم در آموزش قابل مقایسه با از دست دادن آموزش بین مسیرهای تک وظیفه و چند کاره در اوایل آموزش می شود.با این حال ، ما می دانیم که عوامل مسیر بهینه سازی که قبلاً برای توضیح شکاف های تعمیم در تنظیمات تک وظیفه ای پیشنهاد شده بود ، نمی توانند شکاف های تعمیم بین مدل های تک وظیفه و چند کاره را توضیح دهند.علاوه بر این ، ما نشان می دهیم که میزان تعارض شیب بین کارها با اثرات منفی در بهینه سازی کار ارتباط دارد ، اما پیش بینی عمومی نیست.کار ما دلایل اساسی برای خرابی در MTL را روشن می کند و از همه مهمتر ، سؤالاتی را در مورد نقش الگوریتم های بهینه سازی چند کار با هدف عمومی ایجاد می کند.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.